Amazon Bedrock, LangSmith, SGLang의 AI 결함으로 데이터 유출 및 RCE 가능

핵심 요약

사이버 보안 연구원들이 Amazon Bedrock, LangSmith, SGLang 등 AI 코드 실행 환경에서 DNS 쿼리를 악용하여 민감 데이터를 유출하고 원격 코드 실행(RCE)을 가능하게 하는 새로운 공격 기법을 공개했습니다. BeyondTrust 보고서에 따르면, Amazon Bedrock AgentCore 코드 인터프리터의 샌드박스 모드가 아웃바운드 DNS 쿼리를 허용하며, 이를 통해 공격자가 대화형 셸을 활성화하여 데이터를 유출할 수 있는 것으로 확인되었습니다. 이는 AI 에이전트의 외부 통신 제어 미흡과 샌드박스 환경의 불완전한 격리에서 비롯됩니다. IT 감사인은 AI 서비스 도입 및 운영 시 외부 통신 채널에 대한 엄격한 통제와 샌드박스 환경의 보안 강화를 통해 데이터 유출 및 원격 코드 실행 위험을 선제적으로 식별하고 관리해야 합니다.

💡 개선 권고안

• ✔기술적 조치AI 코드 인터프리터 및 샌드박스 환경에서 외부 네트워크로의 아웃바운드 통신(특히 DNS 쿼리)을 최소 권한 원칙에 따라 엄격히 제한하고, 필요한 경우에만 허용된 목적지로의 통신을 허용하도록 네트워크 보안 그룹(Security Group) 및 방화벽(Firewall) 규칙을 설정 및 적용해야 함을 권고함.
• ✔기술적 조치AI 코드 인터프리터의 샌드박스 환경에 대한 격리(Isolation) 메커니즘을 강화하고, 자원 제한 및 프로세스 권한 분리를 통해 임의 코드 실행(RCE) 및 데이터 유출 위험을 최소화하는 보안 설정을 적용해야 함을 권고함.
• ✔관리적 조치Amazon Bedrock과 같은 외부 클라우드 기반 AI 서비스를 사용하는 경우, 서비스 제공자의 보안 통제 수준을 정기적으로 평가하고, 공급망 위험 평가를 수행하여 잠재적 취약점 및 데이터 처리 위험을 식별 및 관리할 것을 권고함.
• ✔관리적 조치AI 서비스 사용 정책에 내부 기밀·개인정보·금융정보의 외부 생성형 AI 서비스 입력 금지 조항을 명확히 포함하고, 이를 기술적으로 통제하기 위한 DLP(Data Loss Prevention) 및 URL 필터링 솔루션을 도입 및 적용해야 함을 권고함.
• ✔관리적 조치LLM 기반 AI 에이전트가 외부 도구(Tool) 및 코드 인터프리터를 사용할 때 발생할 수 있는 에이전트 하이재킹 및 임의 코드 실행과 같은 고유한 보안 위험을 식별하고, 이에 대한 통제 체계를 수립 및 시행할 것을 권고함.

규정 매핑 · 감사 영향

⚠ 이상 징후 · 감사 질문