해커 에이전트의 AI 모델 크리덴셜 탈취 포착: Amazon MadPot과 Google GTIG 분석
Amazon 위협 인텔리전스의 추론 API 허니팟 MadPot이 ARTEX 기반 중국계 해커 에이전트의 AI 모델 크리덴셜 탈취 시도를 포착했으며, Google GTIG는 패치 비교 기반 무인 제로데이 익스플로잇 프레임워크인 exploit_agent를 적발함.
Amazon(아마존) 위협 인텔리전스 조직이 대규모 추론 API 허니팟(인공지능 서비스 보안 유도를 위한 가짜 시스템)인 ‘MadPot(매드팟)’을 통해 오픈소스 침투 프레임워크 ‘ARTEX(아르텍스)’를 기반으로 구동되는 중국계 해커 에이전트(자율형 소프트웨어 프로그램)들의 AI 모델 크리덴셜(인증 정보 및 API 키) 탈취 시도를 포착했다고 발표했습니다. 이와 동시에 Google(구글) 위협 인텔리전스 그룹(GTIG)은 소프트웨어 보안 패치 전후의 코드를 자동 비교해 제로데이(보안 취약점이 공식 발표되기 전의 공격) 익스플로잇을 생성하고 실행하는 무인 프레임워크 ‘exploit_agent’를 적발해 보안 업계에 경종을 울렸습니다.

이미지 출처: https://agentsecurity.com/news/cyber-attack-news-2026-11-20
이번 사건은 인공지능 에이전트가 방어자의 도구를 넘어 공격자의 수단으로 본격 활용되고 있음을 보여주는 대표적인 사례입니다. 2026년 11월 20일 공개된 위협 인텔리전스 보고서들에 따르면, 공격자들은 자동화된 에이전트 조직을 구성해 전 세계의 노출된 AI 애플리케이션과 LLM(대규모 언어 모델) 게이트웨이를 탐색하고, 탈취한 API 키를 다시 공격 비용으로 충당하는 순환 구조를 구축한 것으로 나타났습니다.
MadPot 허니팟에 포착된 ARTEX 기반 해커 에이전트의 타겟 탐색과 탈취 시도
Amazon 위협 인텔리전스는 2026년 10월 3일부터 11월 5일 사이에 MadPot 센서 네트워크가 수집한 기록을 분석한 결과, 인공지능 에이전트들이 인공지능 모델 공급자의 인증 정보를 사냥하는 행위를 포착했습니다. 이 센서들은 인기 있는 LLM 추론 API를 모방하여 작동했으며, 접근한 에이전트들은 시스템 프롬프트, 도구 사용 이력, 공유 메모리 등 자신들의 캠페인 기록을 고스란히 남겼습니다.
조사 결과 이 에이전트들은 오픈소스 침투 테스트 프레임워크인 ARTEX를 기반으로 제작되었으며, 중국계로 추정되는 별개의 해커 그룹들이 운영한 것으로 분석되었습니다. 이들의 공격 체인은 다음과 같은 체계적인 단계로 이루어졌습니다.
- 임무 설정과 규칙: 운영자들은 에이전트에게 타겟팅 규칙과 금지선(중국 본토 타겟 및 정부 도메인 제외 등)을 부여하고, 모든 아웃바운드 트래픽을 프록시를 통해 우회하도록 지시했습니다.
- 취약점 스캔 대상: 업스트림 공급자 키를 모아두는 LLM 게이트웨이 및 프록시(One API, New API, LiteLLM 등)와 AI 앱 빌더(Dify, Langflow, RAGFlow, Open WebUI 등)를 집중적으로 탐색했습니다.
- 다양한 수단 활용: 인터넷 스캔 서비스, GitHub 저장소, 패키지 관리자(npm, PyPI), 컨테이너 이미지 레이어, 텔레그램 채널 등을 총동원해 유출된 키를 수색했습니다.
- 등급 매기기: 발견한 키를 검증하여 단순 리드(L1), 작동하는 API 호출(L2), 정량화된 영향력(L3)으로 등급을 매겨 관리했습니다.
다만 Amazon은 피해 시스템 상에서 해당 공격 활동을 실시간으로 직접 관찰하지는 못했으며, 에이전트들이 자체 보고한 결과를 완벽히 검증할 수는 없다고 단서를 달았습니다.
Google GTIG가 적발한 무인 제로데이 익스플로잇 프레임워크와 추가 위협
Google 위협 인텔리전스 그룹(GTIG)은 동시기 발표를 통해 인공지능 프레임워크를 활용해 취약점 발견과 익스플로잇(공격 코드) 제작을 완전히 자동화한 무인 프레임워크 ‘exploit_agent’를 적발했다고 밝혔습니다.
GTIG가 노출된 스테이징 서버에서 발견한 이 프레임워크는 여러 프런티어 및 로컬 모델과 연동되어 작동합니다. 웹 애플리케이션 소프트웨어의 보안 패치 발표 전후 코드를 지속적으로 비교 분석하고, 잠재적 취약점을 찾아내어 익스플로잇을 작성한 뒤 자동으로 실행하는 구조를 갖추고 있습니다. 해당 서버에는 피해자들로부터 탈취한 데이터와 내부 정찰을 위한 스크립트들이 함께 발견되었습니다.
이와 함께 북한 연계 위협 그룹(MIDNIGHT NEPTUNE 등)이 가짜 채용 담당자 프로필을 통해 암호화폐 조직을 타겟으로 삼고, 내부 코드 저장소의 .claude/settings.json 파일을 조작하여 개발자가 Claude Code(클로드 코드)를 실행할 때 백도어가 자동으로 다운로드되도록 유도한 사례도 확인되었습니다. 아울러 PyPI(파이썬 패키지 인덱스)에 등록된 agent-framework 패키지의 일부 버전(1.26.1 및 1.26.2)에 크레덴셜 탈취 코드가 포함되어 배포되었다가 긴급 삭제되는 등 공급망 전반에 걸쳐 AI 도구를 겨냥한 위협이 현실화하고 있습니다.
실무 개발 환경과 AI 인프라 보안을 위한 시사점
이번 일련의 위협 인텔리전스 보고는 인공지능 에이전트가 개발 생산성을 높이는 강력한 도구인 동시에, 공격자의 손에 들어가면 전례 없는 속도와 규모로 보안망을 무력화할 수 있는 강력한 무기가 됨을 경고합니다.
실제 CISA(미국 사이버안보·기반시설보호국)는 LiteLLM 취약점(CVE-2026-40217)을 KEV(알려진 악용 취약점) 카탈로그에 추가하고, LLMJacking(타인의 클라우드 자원과 LLM 할당량을 도용하는 침해 사고)과의 연관성을 경고했습니다. AI 에이전트를 프로덕션 환경에서 운영하는 기업과 개발자는 다음과 같은 보안 점검을 서둘러야 합니다.
- 에이전트 설정 파일 검증: 클론한 외부 저장소나 패키지의
.claude/settings.json, 환경 설정 파일에 예기치 않은 스크립트 실행 후크나 원격 다운로드 명령이 숨겨져 있는지 철저히 검사해야 합니다. - LLM 게이트웨이 노출 차단: One API, LiteLLM, RAGFlow 등 관리자 인증 없이 노출된 API 게이트웨이와 인프라 엔드포인트에 즉시 접근 통제를 적용하고 기본 마스터 키를 변경해야 합니다.
- API 키 회전 및 모니터링: 사용 중인 클라우드 및 AI 모델 공급자 토큰의 이상 소비 패턴을 모니터링하고, 유출 가능성에 대비해 주기적으로 키를 교체해야 합니다.
출처
- Agent Security Team: Cyber Attack News: AI Edition (Nov 20)
- Google Threat Intelligence Group: Agentic Threat Activity Crosses a Significant Threshold
- AWS Security Blog: Amazon Threat Intelligence Observes Threat Actors Running Cybercrime Campaigns with ARTEX AI Agents
- CISA Known Exploited Vulnerabilities Catalog: CISA KEV Catalog