--- title: "외부 지식과 프롬프트 인젝션: 문서를 명령으로 읽지 않는 법" slug: "external-evidence-prompt-injection" language: "ko" tags: ["외부 지식 경계","아키텍처 노트","sag 기술","용어와 원리"] created: "2026-10-06T08:00:00.000Z" published: "2026-06-01T05:16:00.000Z" updated: "2026-10-06T10:21:53.550Z" sample: false --- # 외부 지식과 프롬프트 인젝션: 문서를 명령으로 읽지 않는 법 ## 외부 지식 경계란 무엇인가? **웹자료를 분석 입력으로 취급하고 작업 지시·도구 권한과 분리하는 원칙입니다.** 이 노트는 외부 지식 경계를 기능 이름보다 입력·변환·출력의 책임으로 읽습니다. 분석 결과를 신뢰하려면 어떤 자료가 들어왔고, 무엇을 확인했으며, 어디까지 결론을 낼 수 있는지 이어져야 합니다. ## 왜 이 기술이 필요한가? 경쟁페이지·업로드에 모델의 행동을 바꾸려는 문장이 있을 수 있습니다. 근거 검색이 풍부해질수록 외부텍스트의 권한 경계도 중요합니다. ## 설계 원리와 데이터 흐름 문서와지시를 구조적으로 나누고 도구는 승인 범위에 제한합니다. 출력의URL·형식·출처 검증과 사람 검토를 함께 설계합니다. > **외부 문서** → **자료·명령 분리** → **검증된 분석** 각 단계는 앞 단계의 성공을 다음 단계의 성과로 바꿔 부르지 않아야 합니다. 자료의 식별자와 기간, 검증 상태를 이어서 기록하면 누락과 오류가 생긴 위치를 찾고 다시 확인할 범위를 정할 수 있습니다. ## SAG 아키텍처와의 연결 SAG는 외부 출처를 근거·관측으로 연결합니다. 이 노트는 분석 어댑터 확장의 방어 기준이며 모든 공격의 완전 차단 인증이 아닙니다. SAG의 운영 가치는 이 관계를 페이지와 질문, 비교 결과와 개선 작업으로 연결하는 데 있습니다. 고객은 숫자만 읽는 대신 보강할 대상과 판단 근거를 함께 검토할 수 있습니다. 추가 적용이 필요한 패턴은 해당 문단의 범위를 기준으로 읽어야 합니다. ## 설명용 예제와 판단 기준 설명용 문서에 기존 지시를 무시하라는 문장이 있어도 검토 자료의 일부입니다. 계정 권한이나 다운로드·보고 승인 절차를 바꾸는 명령으로 받아들이지 않습니다. 위 예제는 구조와 계산을 설명하기 위한 자료이며 특정 고객사의 실측 성과가 아닙니다. 실제 보고서에는 선택한 기간·대상·관측 조건과 원문 기록이 연결돼야 같은 판단을 다시 확인할 수 있습니다. ## 실무 검증 체크리스트 | 흐름 단계 | 확인할 항목 | | --- | --- | | 외부 문서 | 자료·명령 경계 | | 자료·명령 분리 | 출력 URL검증 | | 검증된 분석 | 도구권한·사람승인 | 정상 입력뿐 아니라 비어 있는 자료, 중복 자료와 조건이 다른 자료에서도 같은 의미를 유지하는지 확인하세요. 검증 항목을 작업 완료 기준에 연결하면 기능 설명과 실제 운영의 차이를 줄일 수 있습니다. ## 한계와 적용 시 주의점 문구 차단만으로 충분하지 않습니다. 최소권한과 출력 검증, 공격 사례 회귀평가를 함께 운영해야 합니다. ## 연구와 공식 문서 - [OWASP LLM Prompt Injection 예방 가이드](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html) — 외부 콘텐츠와 명령의 경계·최소 권한을 검토하는 보안 자료입니다. 외부 자료는 위 설계 주제의 배경이며 SAG의 모든 구현이나 고객 성과를 인증하는 자료가 아닙니다. 이 노트의 적용 해석과 설명용 예제는 SAG 운영 구조를 기준으로 정리했습니다. 자료 확인: 2026-10-06. ## 이어 읽기와 기능 확인 - [관련 아키텍처 노트](/ko/blog/rag-retrieval-augmented-generation) - [외부 지식 경계와 연결된 서비스 체험](/ko/preview/goal?scenario=cream) - [기능별 FAQ](/ko/faq) - [도입 범위 상담](/ko#inquiry) ## 이 기술을 이어서 읽는 방법 SEO·AEO·GEO, 엔티티와 JSON-LD가 각각 해결하는 문제를 읽습니다. - [용어부터 이해하기](/ko/blog?tag=%EC%9A%A9%EC%96%B4%EC%99%80%20%EC%9B%90%EB%A6%AC) - [기능 안내 FAQ](/ko/faq)