技术地图
连接图按年份排出全部收录的技术,同一年里再按环节从上到下排列。同一项技术仍只归到它改动最大的环节。
环节
成熟度
训练
从左到右是年份,同一年里按环节从上到下排列。移到节点上,会突出直接相连的技术。
节点覆盖目前收录的全部技术。连线只表示编辑过的直接关系。筛选时,不符合条件的节点会淡出。
12 项技术
2020 · 演进中 · 需要专门训练
在预训练时就检索外部文档,而不是等提问时才去查。
2021 · 演进中 · 需要专门训练
从零训练一个会在生成中途检索万亿词符语料的模型。
2022 · 演进中 · 需要专门训练
检索器和语言模型一起微调,使少量标注就能完成知识密集型任务。
2023 · 演进中 · 需要专门训练
分别微调语言模型和检索器,使两者都为检索增强服务,而不必从零预训练。
2024 · 演进中 · 需要专门训练
把文档页当成图像来检索,不再先做 OCR 或版面解析。
先判断检索结果是对、含糊还是错,错了就改道去查别的来源。
每段资料单独编码,解码时再把多段证据合到一起写答案。
由模型自己决定要不要检索,并判断自己的话有没有依据。
训练模型在一组混有干扰段落的资料里引用真正有用的那几段。
同一个模型既给段落排序,也根据排好的段落生成答案。
让模型操作浏览器收集网页,再写出带引用的答案。
先判断问题有多复杂,再决定不查、查一次,还是多步查。