--- title: "外部知識とプロンプトインジェクション：文書を命令として読まない方法" slug: "external-evidence-prompt-injection" language: "ja" tags: ["외부 지식 경계","아키텍처 노트","sag 기술","용어와 원리"] created: "2026-10-06T08:00:00.000Z" published: "2026-10-08T10:15:14.984Z" updated: "2026-10-08T10:15:17.599Z" sample: false --- # 外部知識とプロンプトインジェクション：文書を命令として読まない方法 ## 外部知識の境界とは？ **ウェブ資料を分析入力として扱い、作業指示やツール権限と分離する原則です。** このノートでは、外部知識の境界を機能名ではなく、入力・変換・出力に対する責任として捉えます。分析結果の信頼性を確保するには、どの資料を取り込み、何を確認し、どこまで結論を導けるのかを一貫して把握できなければなりません。 ## なぜこの技術が必要なのか？ 競合ページやアップロード資料には、モデルの動作を変えようとする文が含まれている場合があります。根拠検索が充実するほど、外部テキストの権限境界も重要になります。 ## 設計原則とデータフロー 文書と指示を構造的に分離し、ツールの権限を承認された範囲に制限します。出力URL・形式・出典の検証と、人によるレビューをあわせて設計します。 > **外部文書** → **資料と命令の分離** → **検証済みの分析** 各段階では、前段階の成功を次段階の成果として言い換えてはなりません。資料の識別子や期間、検証状態を継続して記録すれば、欠落や誤りが生じた箇所を特定し、再確認する範囲を定められます。 ## SAGアーキテクチャとの関連 SAGは外部の情報源を、根拠・観測結果として結び付けます。このノートは分析アダプターを拡張する際の防御基準であり、あらゆる攻撃を完全に防ぐことを認証するものではありません。 SAGの運用上の価値は、この関係をページや質問、比較結果、改善作業へと結び付けることにあります。顧客は数値だけでなく、強化すべき対象と判断根拠もあわせて確認できます。追加適用が必要なパターンについては、該当する段落の範囲を基準に読み取ってください。 ## 説明用の例と判断基準 説明用の文書に既存の指示を無視するよう求める文があっても、それはレビュー対象資料の一部です。アカウント権限やダウンロード・報告の承認手順を変更する命令として受け取ってはなりません。 上記の例は構造と計算を説明するための資料であり、特定の顧客企業で測定された実績ではありません。実際のレポートには、選択した期間・対象・観測条件と元の記録を関連付ける必要があります。そうすることで、同じ判断を再度検証できます。 ## 実務検証チェックリスト | フローの段階 | 確認項目 | | --- | --- | | 外部文書 | 資料と命令の境界 | | 資料と命令の分離 | 出力URLの検証 | | 検証済みの分析 | ツール権限・人による承認 | 通常の入力だけでなく、資料が空の場合や、資料が重複している場合、条件の異なる資料の場合にも、意味が変わらないことを確認してください。検証項目を作業完了の基準に結び付ければ、機能の説明と実際の運用との差を縮められます。 ## 限界と適用時の注意点 文言のブロックだけでは不十分です。最小権限、出力検証、攻撃事例の回帰評価をあわせて運用する必要があります。 ## 研究資料と公式ドキュメント - [OWASP LLMプロンプトインジェクション防止ガイド](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html) — 外部コンテンツと命令の境界、および最小権限を検討するためのセキュリティ資料です。 外部資料は上記の設計テーマの背景資料であり、SAGのすべての実装や顧客の成果を認証するものではありません。このノートの適用に関する解釈と説明用の例は、SAGの運用構造を基準にまとめています。資料確認日：2026-10-06。 ## 関連情報と機能の確認 - [関連アーキテクチャノート](/ko/blog/rag-retrieval-augmented-generation) - [外部知識の境界に関連するサービスを体験する](/ko/preview/goal?scenario=cream) - [機能別FAQ](/ja/faq) - [導入範囲の相談](/ko#inquiry) ## この技術についてさらに読む SEO・AEO・GEO、エンティティ、JSON-LDがそれぞれどのような課題を解決するのかを読みます。 - [用語から理解する](/ko/blog?tag=%EC%9A%A9%EC%96%B4%EC%99%80%20%EC%9B%90%EB%A6%AC) - [機能案内FAQ](/ja/faq)