결국... AI 활용한 제로데이 취약점 공격 악성코드 현실화

핵심 요약

구글 클라우드 GTIG 보고서에 따르면, 인공지능(AI)을 활용하여 제로데이 취약점 공격을 준비하던 범죄 집단이 포착되었으며, 이는 AI를 악용한 공격이 현실화되었음을 시사한다. 공격자들은 AI의 도움을 받아 제로데이 취약점을 개발하고 대규모 공격을 준비하는 전술(MITRE ATT&CK T1588.007 Artificial Intelligence)을 사용했으며, 이는 기존의 수동적인 취약점 탐지 및 악용 방식보다 훨씬 빠르고 효율적인 공격 개발을 가능하게 한다. IT 감사인은 AI 기반 공격에 대한 방어 체계의 부재 또는 미흡이 조직의 핵심 자산에 대한 심각한 위협으로 이어질 수 있음을 인지하고, AI 보안 거버넌스 및 위협 인텔리전스 관리 체계의 적정성을 중점적으로 감사해야 한다.

💡 개선 권고안

• ✔기술적 조치도입된 AI 모델 및 서비스에 대해 기계적 해석 가능성(Mechanistic Interpretability) 기반의 백도어 탐지 기술을 도입하거나, AI 모델의 출력 및 동작에 대한 지속적인 모니터링 및 검증 체계를 구축하여 잠재적 위협을 조기에 식별할 것을 권고함.
• ✔기술적 조치AI 기반 공격에 대응하기 위해 EDR, SIEM, XDR 등 기존 보안 솔루션의 탐지 규칙을 고도화하고, AI 기반 위협 탐지 및 분석 기능을 강화하여 제로데이 공격에 대한 방어 역량을 향상시킬 것을 권고함.
• ✔관리적 조치AI 기반 공격 위협에 대한 최신 위협 인텔리전스(CTI)를 정기적으로 수집하고 분석하여, 조직의 AI 보안 정책 및 대응 전략에 반영하는 절차를 수립 및 시행할 것을 권고함.
• ✔관리적 조치AI 모델 개발 및 운영 전반에 걸쳐 보안 취약점 평가 및 전문가 레드팀 운영을 의무화하고, AI 모델 생성기반 공격 및 프롬프트 주입 취약성 등 AI 특화 위협에 대한 관리 체계를 강화할 것을 권고함.
• ✔관리적 조치AI 모델 도입 및 활용 시 공급망 보안 위험을 평가하고, 비신뢰 시스템 컴포넌트 설계 원칙을 적용하여 AI 모델의 무결성 및 보안성을 확보하기 위한 정책을 수립 및 시행할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문