AI 환각을 악용한 공급망 공격, 슬롭스쿼팅의 위협

핵심 요약

• 무엇을 · AI 어시스턴트가 존재하지 않는 패키지 이름을 생성(환각)하고, 공격자가 이 이름을 선점하여 개발자가 무심코 설치하도록 유도하는 '슬롭스쿼팅'이라는 새로운 공급망 공격 방식에 대해 다룹니다.
• 어떻게 · 기존의 타이포스쿼팅이 사람의 오타를 노린다면, 슬롭스쿼팅은 AI 모델이 생성한 가짜 이름을 개발자가 신뢰하고 그대로 복사해 사용하는 점을 악용합니다. 공격자는 AI 모델의 출력을 대규모로 분석하여 반복적으로 나타나는 가짜 이름을 등록하고, 개발자가 이를 설치할 때까지 기다립니다.
• 결과 · 이 공격은 JavaScript(npm), PHP(Composer), Python(pip) 등 다양한 개발 생태계에 영향을 미치며, 기존의 보안 방어 체계(잠금 파일, 스캐너, 타이포스쿼팅 감지)로는 탐지하기 어렵습니다. AI 모델의 환각이 무작위가 아니라 반복적으로 발생한다는 점이 이 공격을 현실적인 위협으로 만듭니다.

왜 중요한가

개발자는 AI 어시스턴트가 제안하는 패키지 이름을 맹목적으로 신뢰해서는 안 되며, AI 모델의 환각이 단순한 오류가 아니라 심각한 보안 위협으로 이어질 수 있음을 인지해야 합니다. 기존 보안 솔루션의 한계를 이해하고 새로운 방어 전략을 모색해야 합니다.

실생활·산업 영향

소프트웨어 공급망 보안에 새로운 취약점을 추가하며, AI 개발 및 활용 과정에서 보안 검증의 중요성을 높입니다. 기업은 AI 어시스턴트 사용 정책을 재검토하고, 패키지 설치 전 검증 절차를 강화하는 등 보안 프로세스를 개선해야 할 것입니다.

한계·주의

이 공격에 대한 구체적인 방어 메커니즘이나 효과적인 대응 방안은 아직 명확하게 제시되지 않았으며, 각 개발 생태계별로 공격의 트리거 시점과 영향이 다르므로 맞춤형 대응이 필요합니다.