스스로 확장하는 도난 추론 공급망: LLM 접근을 수확하고 재판매하는 AI 에이전트 (금, 9월 11일)

핵심 요약

공격자들이 반자율 코딩 에이전트를 활용하여 LLM 접근 권한을 탈취하고 재판매하는 새로운 공급망 공격 기법이 확인되었다. 이 공격은 보안이 취약한 LLM 재판매 게이트웨이를 표적으로 삼아 일반적인 웹 취약점(OWASP A03:2021 – Injection, A01:2021 – Broken Access Control 등)과 계정 파밍(MITRE ATT&CK T1588.007 – Artificial Intelligence, T1588 – Obtain Capabilities)을 통해 LLM API 접근 권한을 획득하고, 탈취한 추론 용량을 검증 후 자신들의 게이트웨이에 통합하는 방식으로 진행된다. 이는 LLM 기반 서비스를 운영하거나 활용하는 조직이 API 보안, 웹 취약점 관리, 계정 관리 및 AI 에이전트 보안 위험 평가 체계를 시급히 강화해야 함을 시사한다.

개선 권고안

• ✔기술적 조치LLM API 게이트웨이에 대한 접근 제어 정책을 강화하고, API 키 및 토큰에 대한 강력한 인증 메커니즘(예: 다단계 인증, IP 기반 접근 제한)을 적용해야 함을 권고함.
• ✔기술적 조치LLM 기반 서비스 및 관련 웹 애플리케이션에 대해 정기적인 웹 취약점 진단(모의 해킹, 자동화된 스캐닝)을 수행하고, 발견된 취약점(OWASP Top 10 포함)에 대한 신속한 패치 및 보안 설정을 적용해야 함을 권고함.
• ✔기술적 조치LLM API 접근 권한을 관리하는 계정에 대해 강력한 비밀번호 정책, 다단계 인증(MFA)을 의무화하고, 비정상적인 로그인 시도 및 API 호출 패턴을 탐지하기 위한 모니터링 시스템을 구축 및 고도화할 것을 권고함.
• ✔관리적 조치LLM 기반 AI 에이전트의 설계 및 운영 단계에서 NIST AI 100-2 AML-AGT-01 통제 목적에 따라 에이전트 하이재킹 및 임의 코드 실행과 같은 고유한 보안 위험을 식별하고, 이에 대한 통제 체계를 수립 및 시행할 것을 권고함.
• ✔관리적 조치LLM API 사용량 및 접근 로그를 지속적으로 모니터링하고, 비정상적인 사용 패턴이나 대규모 추론 요청이 감지될 경우 즉시 경보를 발생시키고 대응하는 절차를 수립 및 시행할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문

감사 실무로 잇기