앤트로픽 “AI, 공격 보조 넘어 오케스트레이터로”…샤이니헌터스 계열도 악용

핵심 요약

생성형 AI가 단순한 코드 작성 보조 도구를 넘어 사이버 공격 전 과정을 연결하고 자동화하는 '오케스트레이터'로 진화하고 있으며, 국가배후 조직 및 금전 목적의 사이버 범죄자들이 이를 악용하고 있다는 분석이 나왔습니다. 앤트로픽 보고서에 따르면, AI는 정찰, 도구 개발, 취약점 분석, 침투 등 공격의 여러 단계에서 활용되어 공격 효율성과 정교함을 높이는 데 기여하고 있습니다. 이는 MITRE ATT&CK의 Initial Access(TA0001), Reconnaissance(TA0043), Resource Development(TA0042) 등 다양한 전술에 걸쳐 AI가 악용될 수 있음을 시사합니다. IT 감사인 및 CISO는 생성형 AI를 활용한 공격 트렌드를 이해하고, 조직의 보안 통제 및 위협 인텔리전스 시스템이 이러한 진화된 공격에 효과적으로 대응할 수 있도록 지속적인 점검과 개선이 필요하다는 시사점을 얻을 수 있습니다.

개선 권고안

• ✔기술적 조치AI 모델의 취약점 분석 및 악용 가능성에 대비하여, AI 모델 자체의 보안 취약점 평가 및 적대적 예제 방어, 프롬프트 주입 방어 등 기술적 통제 방안을 마련하고 정기적으로 점검할 것을 권고함.
• ✔기술적 조치도입된 SIEM, EDR 등 보안 솔루션의 탐지 및 대응 규칙을 AI 기반 공격 수법(정찰, 침투, 취약점 분석 등)에 맞춰 지속적으로 고도화하고, 오탐 및 미탐을 최소화하기 위한 정기적인 튜닝 및 성능 검증 절차를 수립 및 적용해야 함을 권고함.
• ✔관리적 조치AI 기반 공격 트렌드에 대한 최신 위협 인텔리전스를 지속적으로 수집하고 분석하여, 이를 조직의 위험 평가 및 보안 전략 수립에 반영할 것을 권고함.
• ✔관리적 조치조직 내 생성형 AI 서비스(내부 개발 및 외부 SaaS) 사용에 대한 명확한 보안 정책 및 가이드라인을 수립하고, 임직원 대상 AI 보안 위협 교육을 강화할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문

감사 실무로 잇기