SAG / ARCHITECTURE NOTE
外部知识与提示注入:不要把文档当作指令来读取
将网页资料视为分析输入,并与任务指令和工具权限分离。竞争页面和上传内容中可能包含试图改变模型行为的文字。随着检索到的依据越来越丰富,外部文本的权限边界也愈发重要。
什么是外部知识边界?
将网页资料视为分析输入,并与任务指令和工具权限分离的原则。 本说明从输入、转换和输出各自承担的职责来理解外部知识边界,而非将其视为某个功能名称。要让分析结果值得信赖,就必须明确输入了哪些资料、核验了什么,以及结论能做到什么程度,并将这些环节贯通起来。
为什么需要这项技术?
竞争页面和上传内容中可能包含试图改变模型行为的文字。随着检索到的依据越来越丰富,外部文本的权限边界也愈发重要。
设计原则与数据流
在结构上区分文档与指令,并将工具限制在获批的范围内。还要一并设计输出 URL、格式和来源的核验,以及人工审核。
外部文档 → 资料与命令分离 → 经核验的分析
每个阶段都不应把前一阶段的成功称作后一阶段的成果。持续记录资料的标识符、时间范围和核验状态,有助于定位遗漏和错误发生的位置,并确定需要重新核查的范围。
与 SAG 架构的关联
SAG 将外部来源关联为依据和观测信息。本说明是扩展分析适配器时的防护标准,并非对彻底阻止所有攻击的认证。
SAG 的运营价值,在于将这种关系与页面、问题、对比结果和改进工作关联起来。客户不必只看数字,还可以一并审查需要补强的对象和判断依据。对于需要进一步应用的模式,应依据相关段落所界定的范围来理解。
说明性示例与判断标准
即使说明性文档中包含要求忽略现有指令的文字,它也只是审核资料的一部分。不要将其视为更改账户权限或下载、报告审批流程的命令。
以上示例用于说明结构和计算,并非任何特定客户的实测成果。实际报告必须关联所选的时间范围、对象、观测条件和原始记录,才能复核同一判断。
实务核验清单
| 流程阶段 | 核查项目 |
|---|---|
| 外部文档 | 资料与命令边界 |
| 资料与命令分离 | 输出 URL 核验 |
| 经核验的分析 | 工具权限与人工审批 |
请确认在资料为空、资料重复以及条件不同的情况下,含义仍与正常输入时一致。将核验项目纳入工作完成标准,有助于缩小功能说明与实际运营之间的差距。
局限与应用注意事项
仅靠屏蔽措辞并不足够。还应同时落实最小权限和输出核验,并持续进行攻击案例回归评估。
研究与官方文档
- OWASP LLM 提示注入预防指南 — 用于审查外部内容与命令之间的边界以及最小权限的安全资料。
外部资料用于介绍上述设计主题的背景,并非对 SAG 所有实现或客户成果的认证资料。本说明对适用范围的解读和说明性示例,均以 SAG 的运营架构为依据。资料核查日期:2026-10-06。
延伸阅读与功能了解
如何继续了解这项技术
了解 SEO、AEO、GEO、实体和 JSON-LD 各自解决的问题。
SAG / KNOWLEDGE LINKS
