AI 환각을 악용하는 새로운 공급망 공격, 슬롭스쿼팅

핵심 요약

• 무엇을 · AI 어시스턴트가 존재하지 않는 소프트웨어 패키지 이름을 '환각'으로 만들어낼 때, 공격자가 이 이름을 선점하여 악성 패키지를 등록하고 개발자가 이를 설치하도록 유도하는 '슬롭스쿼팅'이라는 새로운 공급망 공격 방식에 대해 다룹니다.
• 어떻게 · 기존의 타이포스쿼팅이 개발자의 오타를 노린다면, 슬롭스쿼팅은 AI 모델이 생성한 가짜 이름을 개발자가 그대로 복사하여 사용하는 점을 악용합니다. 공격자는 AI 모델의 출력을 대규모로 분석하여 반복적으로 나타나는 가짜 이름을 파악하고, 이를 미리 등록하여 공격 대상을 선정합니다. 이 공격은 npm, Composer, pip 등 다양한 패키지 관리 시스템에서 발생할 수 있습니다.
• 결과 · 이 공격은 기존 보안 방어 체계(잠금 파일, 스캐너, 타이포스쿼팅 감지)를 우회하며, 개발자가 신뢰하는 AI의 추천을 따랐을 뿐인데도 악성 코드를 설치하게 만듭니다. AI 모델의 환각이 드물지 않고 반복적이라는 점이 이 공격을 현실적인 위협으로 만듭니다.

왜 중요한가

개발자/기술인에게는 AI 어시스턴트 사용 시 생성되는 코드나 패키지 이름에 대한 맹목적인 신뢰가 심각한 보안 위협으로 이어질 수 있음을 인지하고, AI가 제안하는 정보의 유효성을 항상 검증하는 습관을 들여야 함을 시사합니다. 기존 보안 도구만으로는 방어하기 어렵다는 점도 중요합니다.

실생활·산업 영향

소프트웨어 공급망 보안에 새로운 취약점을 추가하며, AI 개발 및 활용 과정에서 모델의 '환각' 현상에 대한 심층적인 이해와 이를 방지하거나 완화하는 기술적, 정책적 노력이 필요함을 보여줍니다. 기업들은 AI 기반 개발 환경의 보안 가이드라인을 재정비해야 할 것입니다.

한계·주의

이 공격에 대한 구체적인 방어 전략이나 기술적 해결책은 아직 명확히 제시되지 않았으며, 각 패키지 관리 시스템(npm, Composer, pip)별로 공격의 트리거 시점과 영향이 다르다는 점을 고려한 맞춤형 대응이 필요합니다.