AWS 베드록에서 8가지 공격 벡터를 발견했습니다. 공격자들이 이를 통해 할 수 있는 일은 다음과 같습니다.

핵심 요약

AWS의 AI 애플리케이션 구축 플랫폼인 베드록(Bedrock)에서 엔터프라이즈 데이터 및 시스템에 연결되는 AI 에이전트를 악용할 수 있는 8가지 공격 벡터가 발견되었습니다. 이 공격 벡터들은 AI 에이전트가 Salesforce 쿼리, 람다(Lambda) 함수 트리거, SharePoint 데이터 탈취 등 민감한 기업 시스템에 접근하는 연결성을 악용하여, 프롬프트 주입(Prompt Injection)과 같은 수법으로 비인가된 정보 접근 및 조작을 가능하게 합니다. 이는 AI 시스템 도입 시 발생할 수 있는 데이터 유출, 시스템 오작동, 컴플라이언스 위반 리스크를 조기에 식별하고, AI 모델 및 에이전트의 보안 취약점 점검 및 통제 체계 수립이 IT 감사 및 정보보호의 핵심 과제임을 시사합니다.

💡 개선 권고안

• ✔기술적 조치AI 에이전트가 외부 시스템 및 데이터에 접근하는 모든 접점에 대해 최소 권한 원칙을 적용하고, 접근 제어 및 인증 메커니즘을 강화하여 비인가된 접근 및 조작을 방지해야 함을 권고함.
• ✔기술적 조치AI 모델 및 에이전트에 대한 프롬프트 주입(Prompt Injection), 데이터 오염(Data Poisoning) 등 적대적 공격에 대응하기 위한 입력 데이터 검증, 출력 필터링, 이상 탐지 시스템을 구축 및 고도화할 것을 권고함.
• ✔기술적 조치AI 에이전트와 연동되는 엔터프라이즈 시스템(Salesforce, SharePoint, Lambda 등)의 API 및 인터페이스에 대한 보안 취약점 점검을 강화하고, 안전한 API 키 관리 및 사용 정책을 수립 및 적용해야 함을 권고함.
• ✔관리적 조치AI 서비스 개발 및 운영 전반에 걸쳐 보안 취약점 점검, 모의 해킹, 적대적 공격 테스트를 포함한 정기적인 보안성 평가 절차를 수립 및 시행할 것을 권고함.
• ✔관리적 조치AI 에이전트의 기능 및 접근 권한에 따라 다중 LLM 권한 분리 아키텍처 도입을 검토하여, 공격 성공 시 피해 범위를 최소화할 수 있는 방안을 마련할 것을 권고함.
• ✔관리적 조치AI 모델 API 활용 및 민간 AI 모델 도입 시 데이터 보안을 위한 입력 데이터 검증, 개인정보 처리, 데이터 오남용 방지, API 키 관리 등의 사항을 포함하는 명확한 내부 정책을 수립하고 임직원 교육을 강화할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문