编排 · 2023
FLARE
生成下一句时如果模型自己没把握，就用这句的预测去检索，再重写这一句。
要解决的问题
长答案的信息缺口出现在生成中途。开头检索一次，覆盖不了后面才写到的事实。
相对前一代的变化
迭代检索通常按固定节奏查询。FLARE 只在即将生成的句子里出现低置信词时才检索，查询内容来自对下一句的预测。
做法
Jiang 等人先临时生成下一句。若其中有低概率词，就用这句去掉那些词后的文本作为查询，取回文档，再重新生成这一句。
局限
低概率不等于事实错误，专有名词本来就概率低。预测句如果方向错了，检索会跟着错。
在链路中的位置
包在长文生成过程中，是按需检索的一种句子级策略。