AISPA: AI 시스템 프롬프트 감사로 사용자 신뢰 높이기

AISPA: User-Centric System Prompt Auditing for Large Language Model Applications

💡 AI 앱의 숨겨진 '시스템 프롬프트'를 사용자가 이해하기 쉽게 감사하여, AI가 사용자에게 더 안전하고 투명하게 작동하도록 돕는 AISPA 프레임워크를 제안합니다.

핵심 요약

무엇을 · AI 애플리케이션에서 AI 모델의 동작을 제어하는 '시스템 프롬프트'를 체계적으로 감사하는 사용자 중심 프레임워크인 AISPA(Artificial Intelligence System Prompt Assurance)를 소개합니다.
어떻게 · AISPA는 시스템 프롬프트의 특정 부분을 분석하고, 사용자에게 중요한 8가지 차원을 기준으로 평가합니다. 이를 통해 88개 상용 AI 제품의 3,249개 지침을 '사용자 보호적' 또는 '문제적'으로 분류하여 감사했습니다.
결과 · 감사 결과, 시스템 프롬프트 설계가 제품마다 크게 다르고, 사용자 보호 지침은 널리 사용되지만 범위가 얕으며, 프롬프트가 점차 길어지고 사용자 보호 기능이 강화되고 있음을 발견했습니다. 하지만 여전히 약 40%의 제품에서 사용자 이익에 반하는 '문제적' 지침이 존재하며, 보호적 지침과 문제적 지침이 한 프롬프트 안에 공존하는 경우도 많았습니다.

현재 AI 시스템의 시스템 프롬프트는 대중이나 규제 기관에 거의 공개되지 않아 신뢰와 책임의 격차가 큽니다. 이 연구는 이러한 투명성 부족 문제를 해결하고 AI 시스템에 대한 사용자 신뢰를 높이는 데 기여합니다.

이 연구 결과는 상업용 AI 제품의 시스템 프롬프트에 대한 더 큰 투명성, 표준화, 독립적인 감독의 필요성을 강조합니다. 이는 AI 개발자들이 사용자 보호를 강화하고, 잠재적으로는 AI 제품의 규제 및 인증 프로세스에 영향을 미칠 수 있습니다.

초록에 명시된 한계는 없지만, 88개 상용 AI 제품만을 대상으로 했으므로 모든 AI 제품에 대한 일반화에는 한계가 있을 수 있습니다.

#시스템 프롬프트#AI 감사#사용자 보호

arXiv 원문 보기 → Xiangning Lin, Shenzhe Zhu, Shu Yang 외 · 2026-07-30 · arXiv:2607.28617

이 요약이 유용했나요?

※ 이 요약은 AI 보조로 생성하고 사람이 검수했습니다. 난이도·실생활 영향·톤은 본 사이트의 편집 의견이며, 정확한 내용은 반드시 원문(arXiv)을 확인하세요. 번역은 AI 기반으로 오역 가능성이 있습니다. 출처: arXiv (2607.28617).