SAG / ARCHITECTURE NOTE
什么是 RAG?将外部依据连接到生成式回答的架构
本文基于研究和官方文档,介绍 RAG 的定义、必要性与工作原理,并说明其在 SAG 架构中的应用标准和实践检查清单。
一句话定义
RAG 是一种架构:先检索与问题相关的外部文档,再将其作为上下文提供给生成模型。
核心答案:仅依靠模型参数,难以稳定地提供最新的内部信息和来源。将检索步骤分离后,可以追踪回答依据了哪些文档。
为什么需要这项技术?
仅依靠模型参数,难以稳定地提供最新的内部信息和来源。将检索步骤分离后,可以追踪回答依据了哪些文档。
工作原理
将问题转换为检索表示,获取相关文档,再调整文档排名,并将其放入有限的上下文中。评估生成结果时,也要一并检查所使用的文档。
设计时不能只关注准确率。还必须同时定义延迟、成本、数据边界、更新周期和故障时的行为,才能在生产环境中获得可复现的结果。对于自动化无法确定的值,安全的做法是保留为“未测量”或“需要审核”状态,而不是将其改为 0 或成功。
与 SAG 技术的联系
SAG 具备页面采集、规范化、规则检查,以及受依据约束的报告合成流程。配置 LLM 提供商后,会验证包含依据 ID 的响应。这应与采用 DPR 和向量索引的论文 RAG 实现区分开来;相应的检索层需要单独设计和评估。
实践检查清单
- 分别衡量检索失败和生成失败
- 保留依据文档的版本和哈希值
- 检查回答中的陈述是否得到依据支持
- 将失败、空结果和权限错误的状态与成功区分开
- 在相同条件下重新验证变更前后的结果
研究与官方文档
参考文档为原理和建议提供依据,但不保证搜索曝光、AI 提及、排名或收入。实际应用效果应通过服务数据和相同条件下的观测加以验证。
选择标准与具体应用示例
当用户询问某款产品的维护周期时,应优先查找该产品及其版本对应的维护文档。回答中包含某份文档,并不等于回答中的所有主张都得到了该文档的支持。必须分别检查检索相关性和逐句依据匹配情况。
SAG 中的应用范围
本文讨论搜索 AI 的研究原理和扩展设计。可以结合 SAG 的页面采集、依据记录和报告验证结构来阅读,但不能据此认为论文中的搜索算法都已部署到生产流水线中。是否应用,应通过检索模块、评估数据和执行记录加以确认。
如何继续了解这项技术
比较 RAG、GraphRAG 和 Self-RAG 论文及其适用条件。
SAG / KNOWLEDGE LINKS
