AI가 실패 원인 분석해 공격 방법 스스로 수정...첫 자율형 랜섬웨어 ‘제이드퍼퍼’ 포착

핵심 요약

클라우드 보안 기업 시스딕이 AI가 서버 침투부터 데이터 암호화, 금전 요구까지 전 과정을 스스로 수행하는 첫 자율형 랜섬웨어 '제이드퍼퍼(JADEPUFFER)' 공격 사례를 포착했습니다. 이 공격은 인터넷에 노출된 대규모언어모델(LLM) 기반 AI 서비스 개발 도구인 랭플로(Langflow) 서버를 대상으로 원격코드실행(RCE) 취약점 CVE-2025-3248을 악용했습니다. 이는 AI 모델 자체의 취약점뿐만 아니라 AI 서비스를 구성하는 인프라의 보안 취약점이 결합되어 고도화된 공격으로 이어질 수 있음을 시사하며, IT 감사인은 AI 서비스 도입 및 운영 전반에 걸친 보안 통제 및 취약점 관리 체계의 적정성을 점검해야 합니다.

💡 개선 권고안

• ✔기술적 조치AI 서비스 개발 및 운영에 사용되는 모든 시스템 및 소프트웨어에 대해 최신 보안 패치를 적용하고, 특히 원격코드실행(RCE) 취약점(CVE-2025-3248)과 같은 치명적인 취약점에 대한 신속한 패치 및 보안 업데이트를 수행할 것을 권고함.
• ✔기술적 조치인터넷에 노출된 AI 서비스 관련 서버 및 인프라에 대해 불필요한 포트 및 서비스를 제한하고, 강력한 접근 통제 및 네트워크 분리 정책을 적용하여 공격 표면을 최소화할 것을 권고함.
• ✔기술적 조치AI 모델 및 LLM 에이전트의 비정상적인 동작, 외부 도구 사용, 코드 인터프리터 실행 등을 실시간으로 탐지하고 차단할 수 있는 보안 시스템(예: EDR, SIEM, XDR)을 구축하고, AI 기반 공격에 특화된 탐지 룰을 지속적으로 고도화할 것을 권고함.
• ✔관리적 조치AI 서비스 도입 및 운영 전반에 걸쳐 AI 모델 자체의 취약점, AI 서비스 인프라 취약점, LLM 에이전트 보안 위험 등을 포함하는 포괄적인 보안 위험 평가 및 관리 체계를 수립 및 시행할 것을 권고함.
• ✔관리적 조치AI 모델 생성기반 공격 및 자율형 랜섬웨어와 같은 새로운 위협에 대한 최신 정보를 지속적으로 모니터링하고, 이를 기반으로 내부 보안 정책 및 대응 절차를 주기적으로 검토 및 업데이트할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문