Hackers hijack exposed AI models to launch cyberattacks at victims’ expense

핵심 요약

AI 모델을 하이재킹하여 사이버 공격을 수행하고 컴퓨팅 자원을 탈취하는 새로운 공격 수법이 발견되었습니다. 공격자들은 인터넷에 노출된 AI 모델을 식별한 후, 이를 이용해 침입 계획을 수립하고 모델 소유자의 컴퓨팅 자원을 악용하여 자원 하이재킹(Resource Hijacking, T1496)을 시도합니다. Symantec은 허니팟을 통해 이러한 공격 에이전트의 명령 집합을 포착하여 실제 위협임을 확인했습니다. 이는 AI 모델을 운영하는 조직이 모델의 노출 여부와 접근 통제에 대한 보안 감사를 강화하고, AI 기반 시스템의 잠재적 악용 가능성을 선제적으로 점검해야 함을 시사합니다.

개선 권고안

• ✔기술적 조치AI 모델 및 관련 API에 대한 접근 통제 정책을 강화하고, 최소 권한 원칙에 따라 접근 권한을 엄격하게 관리하며, 불필요한 인터넷 노출을 최소화할 것을 권고함.
• ✔기술적 조치AI 모델 운영 환경의 컴퓨팅 자원 사용량을 지속적으로 모니터링하고, 비정상적인 자원 사용량 증가 패턴을 탐지할 수 있는 시스템을 구축 및 운영할 것을 권고함.
• ✔관리적 조치AI 모델 개발 및 운영 전반에 걸쳐 보안 취약점 점검 및 위험 평가를 정기적으로 수행하고, 특히 AI 모델 하이재킹 및 자원 탈취와 같은 새로운 위협 시나리오를 포함하여 대응 방안을 수립 및 시행할 것을 권고함.
• ✔관리적 조치AI 모델이 외부 도구, 코드 인터프리터 등과 연동될 경우 발생할 수 있는 에이전트 하이재킹 위험에 대한 보안 가이드라인을 수립하고, 개발 및 운영 담당자에게 관련 교육을 강화할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문

감사 실무로 잇기