编排 · 2021
WebGPT
让模型操作浏览器收集网页，再写出带引用的答案。
要解决的问题
固定文档库覆盖不了开放问题。只把搜索结果一次性贴进提示词，模型也不会自己决定再点开哪一页。
相对前一代的变化
朴素 RAG 查的是事先建好的索引。WebGPT 把搜索、点击、引用和回答做成一个可用人类反馈训练的浏览过程。
做法
Nakano 等人用人类对答案和引用的比较来训练模型。模型可以搜索、打开页面、摘录，最后生成带出处的回答。
局限
依赖当时的网页和人类标注。浏览步骤多，成本高，而且网页内容不可控。
在链路中的位置
是深度研究和智能体检索的早期产品形态，检索对象是开放网页。