Infosecurity Europe: AI Adoption Creates New Opportunities for Attackers to Distribute Malware, Microsoft Warns

핵심 요약

Microsoft DART는 인공지능(AI) 도구를 채택하는 조직을 대상으로 악성 AI 애플리케이션을 이용한 멀웨어 유포 사례를 발견하고 경고했습니다. 공격자들은 AI 기술의 확산과 조직의 AI 도구 도입을 악용하여, 악성 AI 애플리케이션을 통해 멀웨어를 배포하는 새로운 공격 기회를 창출하고 있으며, 이는 MITRE ATT&CK의 T1588.007 (Artificial Intelligence) 및 T1204.002 (Malicious File) 전술과 연관될 수 있습니다. IT 감사인은 AI 기술 도입 및 활용 시 발생할 수 있는 새로운 형태의 보안 위협에 대한 선제적 식별 및 통제 방안 마련의 중요성을 인지하고, 관련 보안 정책 및 통제 절차의 적정성을 점검해야 합니다.

💡 개선 권고안

• ✔기술적 조치AI 기반 서비스에서 처리되는 데이터의 무결성, 기밀성, 가용성을 보장하기 위한 입력 데이터 유효성 검증, 출력 데이터 필터링, 강력한 접근 제어 등 보안 통제를 강화할 것을 권고함.
• ✔기술적 조치도입된 EDR, SIEM, XDR 등 보안 솔루션의 탐지 및 대응 규칙을 AI 관련 최신 위협 정보와 연계하여 지속적으로 고도화하고, 악성 AI 애플리케이션 및 멀웨어 유포 시도를 탐지할 수 있도록 정기적인 튜닝 및 성능 검증 절차를 수립 및 적용해야 함을 권고함.
• ✔관리적 조치AI 기술 도입 및 활용에 따른 새로운 보안 위협을 식별하고 평가하기 위한 위험 관리 프로세스를 수립 및 시행할 것을 권고함.
• ✔관리적 조치AI 애플리케이션 도입 시 보안성 검토 절차를 의무화하고, 공급망 보안 관점에서 AI 솔루션 및 데이터 공급자의 신뢰성을 검증하는 정책을 강화할 것을 권고함.
• ✔관리적 조치임직원을 대상으로 악성 AI 애플리케이션 및 사회공학적 공격 기법에 대한 최신 보안 교육을 정기적으로 실시하여 보안 인식 수준을 향상할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문