工程 · 2023
新鲜度
资料变了以后，索引和答案要跟着变，而不是一直查建库那天的快照。
要解决的问题
RAG 把知识放在外部，就是为了能更新。如果删除、修改和新增不能反映到索引里，模型仍会引用过期段落。
相对前一代的变化
FreshLLMs 研究的是用搜索引擎补充模型的过时参数。生产系统还要解决自己的知识库：增量写入、删除和按时间过滤。
做法
文档带修改时间和版本。变更时只更新受影响的块，而不是整库重建。查询可以限制来源和时间；搜索引擎或网页检索用来覆盖库外的新事实。
局限
增量更新要处理块的编号、向量和父块关系。只重建部分索引时，旧块一旦漏删，就会和新建的块同时被检索到。
在链路中的位置
贯穿入库和查询过滤，不是生成模型里的一个步骤。