生成 · 2023
中间迷失
模型更会使用排在上下文开头和结尾的资料，放在中间的相关段落容易被忽略。
要解决的问题
检索已经把正确段落取回来，只要排序把它们放在长上下文中间，答案仍会变差。
相对前一代的变化
重排序通常按相关性排。中间迷失说明生成器对位置敏感，所以相关性最高的段落不一定应该放在清单中间。
做法
Liu 等人改变相关文档在输入中的位置，观察问答和检索任务。性能在相关文档位于开头或结尾时更高，位于中间时下降。
局限
不同模型和上下文长度的曲线不一样。知道这个现象，并不自动给出一种对所有模型都最优的重排。
在链路中的位置
发生在文档已经检索到之后，影响它们在提示词里的顺序。