AI가 해커 생산성 높였다···기존 공격 고도화·효율화

핵심 요약

AI 기술, 특히 상용 생성형 AI가 해커들의 기존 공격 방식(피싱, 사회공학)을 자동화하고 효율화하여 공격 생산성을 높이고 있다는 분석이 나왔습니다. 공격자들은 고급 AI 모델이 아닌 일반 상용 생성형 AI를 활용하여 피싱 문안 작성 및 사회공학 공격을 고도화하고 있으며, 이는 초급 공격자도 수준 높은 공격을 수행할 수 있게 합니다. 이는 MITRE ATT&CK의 Initial Access(TA0001) 전술 중 Phishing(T1566) 및 Social Engineering(T1598) 기법과 연관됩니다. IT 감사인은 AI를 활용한 사회공학 공격의 증가 가능성에 대비하여 임직원 보안 인식 교육 강화, 다단계 인증 도입, 그리고 AI 기반 위협 인텔리전스 시스템 도입을 통한 선제적 방어 체계 구축의 중요성을 인지해야 합니다.

💡 개선 권고안

• ✔기술적 조치AI 기반의 위협 인텔리전스 시스템을 도입하거나 기존 시스템을 고도화하여 AI를 활용한 신규 공격 트렌드 및 기법을 선제적으로 탐지하고 대응할 수 있는 체계를 구축할 것을 권고함.
• ✔기술적 조치이메일 보안 솔루션의 AI 기반 피싱 탐지 기능을 강화하고, 다단계 인증(MFA) 적용 범위를 확대하여 계정 탈취 위험을 최소화할 것을 권고함.
• ✔기술적 조치데이터 유출 방지(DLP) 솔루션 및 웹/URL 필터링 시스템의 정책을 강화하여 내부 정보가 외부 생성형 AI 서비스로 유출되는 것을 기술적으로 통제할 것을 권고함.
• ✔관리적 조치AI를 활용한 피싱 및 사회공학 공격 기법에 대한 임직원 보안 인식 교육을 강화하고, 실제 사례 기반의 모의 훈련을 정기적으로 시행하여 위협 대응 능력을 향상할 것을 권고함.
• ✔관리적 조치생성형 AI 서비스 사용에 대한 명확한 내부 정책을 수립하고, 민감 정보 및 개인정보의 외부 생성형 AI 서비스 입력 금지 등 구체적인 가이드라인을 마련 및 시행할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문