SAG / ARCHITECTURE NOTE

什么是 RAG?将外部依据连接到生成式回答的架构

本文基于研究和官方文档,介绍 RAG 的定义、必要性与工作原理,并说明其在 SAG 架构中的应用标准和实践检查清单。

下载Markdown

一句话定义

RAG 是一种架构:先检索与问题相关的外部文档,再将其作为上下文提供给生成模型。

核心答案:仅依靠模型参数,难以稳定地提供最新的内部信息和来源。将检索步骤分离后,可以追踪回答依据了哪些文档。

为什么需要这项技术?

仅依靠模型参数,难以稳定地提供最新的内部信息和来源。将检索步骤分离后,可以追踪回答依据了哪些文档。

工作原理

将问题转换为检索表示,获取相关文档,再调整文档排名,并将其放入有限的上下文中。评估生成结果时,也要一并检查所使用的文档。

设计时不能只关注准确率。还必须同时定义延迟、成本、数据边界、更新周期和故障时的行为,才能在生产环境中获得可复现的结果。对于自动化无法确定的值,安全的做法是保留为“未测量”或“需要审核”状态,而不是将其改为 0 或成功。

与 SAG 技术的联系

SAG 具备页面采集、规范化、规则检查,以及受依据约束的报告合成流程。配置 LLM 提供商后,会验证包含依据 ID 的响应。这应与采用 DPR 和向量索引的论文 RAG 实现区分开来;相应的检索层需要单独设计和评估。

实践检查清单

  • 分别衡量检索失败和生成失败
  • 保留依据文档的版本和哈希值
  • 检查回答中的陈述是否得到依据支持
  • 将失败、空结果和权限错误的状态与成功区分开
  • 在相同条件下重新验证变更前后的结果

研究与官方文档

参考文档为原理和建议提供依据,但不保证搜索曝光、AI 提及、排名或收入。实际应用效果应通过服务数据和相同条件下的观测加以验证。

选择标准与具体应用示例

当用户询问某款产品的维护周期时,应优先查找该产品及其版本对应的维护文档。回答中包含某份文档,并不等于回答中的所有主张都得到了该文档的支持。必须分别检查检索相关性和逐句依据匹配情况。

SAG 中的应用范围

本文讨论搜索 AI 的研究原理和扩展设计。可以结合 SAG 的页面采集、依据记录和报告验证结构来阅读,但不能据此认为论文中的搜索算法都已部署到生产流水线中。是否应用,应通过检索模块、评估数据和执行记录加以确认。

如何继续了解这项技术

比较 RAG、GraphRAG 和 Self-RAG 论文及其适用条件。

文章列表