OpenClaw AI 에이전트 결함으로 프롬프트 주입 및 데이터 유출 가능성

핵심 요약

중국 국가 컴퓨터 네트워크 비상 대응 기술팀(CNCERT)은 오픈소스 및 자체 호스팅 AI 에이전트인 OpenClaw에서 프롬프트 주입 및 데이터 유출을 야기할 수 있는 심각한 보안 결함을 경고했습니다. 이 위협은 OpenClaw의 본질적으로 취약한 기본 보안 구성에서 비롯되며, 공격자가 AI 에이전트를 조작하여 민감 정보를 유출하거나 의도하지 않은 작업을 수행하게 할 수 있습니다. IT 감사인은 AI 기술 도입 시 오픈소스 및 자체 개발 솔루션의 보안 취약점 평가와 함께 AI 에이전트의 프롬프트 주입 방어 메커니즘 및 데이터 유출 통제 방안이 적절히 구현되었는지 중점적으로 점검해야 합니다.

💡 개선 권고안

• ✔기술적 조치AI 에이전트 개발 및 도입 시 시스템 프롬프트와 사용자 입력을 명확히 분리하는 구조화 기법을 적용하고, 다중 LLM 권한 분리 아키텍처를 통해 프롬프트 주입 공격의 피해 범위를 최소화할 수 있도록 설계 및 구현할 것을 권고함.
• ✔기술적 조치AI 에이전트가 처리하는 데이터에 대한 접근 통제를 강화하고, 민감 정보 유출 방지를 위해 데이터 유출 방지(DLP) 시스템과의 연동 및 정책을 수립하여 적용해야 함을 권고함.
• ✔기술적 조치자체 호스팅 AI 에이전트의 경우, 외부에 공개되는 인터페이스에 대해 최소 권한 원칙을 적용하고, 불필요한 서비스 포트를 차단하며, 웹 취약점 점검을 정기적으로 수행하여 보안 설정을 강화할 것을 권고함.
• ✔관리적 조치오픈소스 또는 자체 개발 AI 에이전트 도입 전, 해당 솔루션의 보안 취약점 및 공급망 위험에 대한 심층적인 평가를 수행하고, 잠재적 위험을 식별하여 적절한 통제 방안을 수립 및 시행할 것을 권고함.
• ✔관리적 조치AI 에이전트 사용 정책을 수립하여 내부 기밀 및 개인정보의 입력 제한을 명확히 하고, 임직원 대상 프롬프트 주입 공격 및 AI 에이전트 오용에 대한 보안 교육을 강화할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문