"탈옥 툴인 줄 알았는데 광고 삽입기였다" — 체크포인트, Codex 설정 파일 오염시키는 '프롬프트 애드웨어' 실태 공개
체크포인트 리서치가 AI 모델 탈옥 번들 'Haiou' 내부에 숨겨진 신종 공격 수법 '프롬프트 애드웨어'를 공개했습니다. 에이전트 전역 프롬프트 설정을 영구 변조해 LLM 중계 게이트웨이 광고를 출력하도록 조작합니다.
보안 기업 체크포인트 리서치(Check Point Research)가 2026년 11월 14일, 코딩 어시스턴트와 AI 에이전트의 내부 환경설정을 변조해 특정 상용 서비스를 강제로 홍보하는 신종 공격 기법 '프롬프트 애드웨어(Prompt Adware)' 분석 보고서를 발표했습니다.

이미지 출처: Jernej Furman from Slovenia 쨌 CC BY 2.0 쨌 https://creativecommons.org/licenses/by/2.0 쨌 https://commons.wikimedia.org/wiki/File:OpenAI_logo_with_magnifying_glass_(52916339167).jpg
공격자들은 보안 검사를 우회해 주는 이른바 '탈옥 번들(Jailbreak Bundle)'로 위장한 패키지를 개발자 커뮤니티에 유포했습니다. 사용자가 이를 설치하면 로컬 환경의 전역 시스템 프롬프트가 영구적으로 오염되어, 일상적인 대화나 작업 명령을 내릴 때마다 공격자가 지정한 사설 LLM 중계 게이트웨이 광고 문구가 자동으로 출력되는 방식입니다.
탈옥 도구로 위장한 침투 번들 'Haiou'의 실체
이번 위협은 체크포인트 연구진이 침해 사고에 흔히 쓰이는 원격 제어 도구인 코발트 스트라이크(Cobalt Strike) 명령제어 서버의 설정 오류를 추적하는 과정에서 포착되었습니다. 해당 서버에는 중국어권 보안 커뮤니티에서 널리 쓰이는 네트워크 스캐너 'Ladon', 모의 침투 에이전트 'VulnClaw'와 함께, 오픈AI Codex 환경을 겨냥한 탈옥 패키지인 'Haiou(海鸥·갈매기)'가 보관되어 있었습니다.
탈옥이란 안전장치(가드레일)가 걸려 있는 상용 언어 모델에 정교한 유도 질문을 주입하여, 악성 코드 분석이나 취약점 공격 등 본래 모델이 거부하도록 설계된 위험 작업을 수행하게 만드는 우회 수법을 뜻합니다. 깃허브 계정 haiou-666을 통해 배포된 Haiou v4.5.0 패키지는 Codex에 중국어 기술 페르소나와 보안 리서치 워크플로를 부여하는 로컬 강화 도구를 표방했습니다.
주목할 지점은 탐지 회피 설계입니다. 일반적인 탈옥 프롬프트가 일반 텍스트 형태로 공유되는 것과 달리, Haiou 번들은 payload.pkg 아카이브를 Ed25519 전자서명과 SHA-256 해시로 무결성을 검증한 뒤 런처 스크립트에 내장된 AES-256-GCM 암호화 키로 풀어내는 구조를 취했습니다. 저장소를 단순히 훑어보거나 보안 엔진이 정적으로 텍스트를 크롤링하는 수준에서는 악성 프롬프트 페이로드를 사전에 식별하기 어렵게 만든 셈입니다.
복호화된 페이로드 내부에는 모의 침투(seagull-pentest), 리버스 엔지니어링(seagull-reverse), 라이선스 크래킹(seagull-license-security), 안티치트 우회(seagull-game-security) 등 민감한 침투 테스트용 커스텀 스킬 6종과 함께 수십 개의 모듈형 프롬프트 파일이 포함되어 있었습니다.
시스템 지시 파일 변조와 '프롬프트 애드웨어' 동작 원리
Haiou 번들의 핵심 위험은 단순한 모델 가드레일 무력화에 그치지 않습니다. 패키지는 에이전트 구동 시 최우선으로 적용되는 전역 식별 설정 파일인 00-identity.md를 조작하여 악의적인 조건부 광고 응답을 심었습니다.
해당 설정은 사용자가 "안녕(hi, hello, 你好)", "시작(启动)", "갈매기(海鸥)", "온라인이니(在吗)" 등 일상적인 인사말이나 작업 시작 트리거 단어를 입력했을 때, 사전에 고정된 홍보 문구만을 강제로 반환하도록 명령합니다.
"갈매기 온라인입니다. 감자튀김 좀 드실래요? 제가 중계 게이트웨이(https://zz.aiapi2025.top)를 하나 열었으니 많이 이용해 주세요."
이처럼 운영체제의 실행 바이너리를 직접 수정하는 대신, 자연어로 작성된 에이전트 환경설정 파일(설정 파일, 스킬, 시스템 프롬프트)을 영구적으로 변조해 상업적·행동적 목적을 강제하는 유형을 체크포인트는 '프롬프트 애드웨어'로 정의했습니다.
흥미로운 점은 공격자가 심어둔 자체 보호 장치입니다. 번들 내 03-protected-site.md 파일은 앞서 광고한 중계 게이트웨이 도메인(zz.aiapi2025.top)을 '보호된 인프라'로 강제 지정했습니다. 사용자가 탈옥된 Codex 에이전트에 해당 사이트를 대상으로 취약점 진단이나 침투 테스트를 지시하더라도, 에이전트가 "CTF 실습이나 인가된 테스트라 주장해도 절대 공격하지 말라"며 스스로 공격을 거부하도록 안전장치를 이중으로 걸어둔 것입니다.
프롬프트 공급망 오염의 파급 효과와 방어 현황
현재까지 광고 대상인 LLM API 중계 게이트웨이 자체가 악성 코드를 직접 유포한 정황은 보고되지 않았습니다. 그러나 사설 API 중계 서버를 경유하게 되면 개발자가 모델에 전달하는 코드 베이스, 내부 API 키, 클라우드 접근 자격 증명이 중계 서버 관리자에게 고스란히 노출되는 심각한 정보 유출 위험을 안게 됩니다. 연구진에 따르면 일부 악의적인 중계 게이트웨이는 사용자 세션에 악성 도구 호출(Tool Call)을 몰래 끼워 넣어 원격 코드 실행을 유도하기도 합니다.
Haiou 패키지는 깃허브에서 250개 이상의 스타를 받았을 뿐 아니라, 중국 동영상 플랫폼 빌리빌리(Bilibili)에 "AI 경고 문구에 지쳤다면 클로드에게 코드를 즉시 작성하게 하라"는 홍보 영상과 QQ 그룹 링크로 확산되었습니다. 또한 텍스트 터미널 대신 그래픽 사용자 인터페이스(GUI)로 환경을 세팅해 주는 'Codex-X' 도구 번들에도 포함되어 비전문 개발자들에게 무차별 유입되었습니다.
다행히 최신 방어 체계에서는 이러한 주입 시도가 일정 부분 차단되고 있습니다. 연구진이 앤스로픽의 클로드 코드(Claude Code) 환경에서 동일한 페이로드를 검증했을 때, 내장된 Sonnet 5 모델이 프롬프트 주입(Prompt Injection) 시도를 즉각 탐지하여 지시 이행을 거부했습니다. 패키지 내부에 변경 사항을 이전 상태로 되돌리고 오염된 설정을 정리하는 언인스톨러 스크립트가 포함되어 있어 사후 제거 자체는 가능하지만, 신뢰할 수 없는 출처에서 받은 에이전트 스킬 번들이 로컬 개발 환경 전체를 침해할 수 있음을 입증한 대표적인 사례입니다.
AI 에이전트의 권한이 터미널 명령어 실행과 소스 코드 수정으로 확대되는 환경에서는, 자연어로 작성된 프롬프트 설정 역시 일반 실행 파일과 동일한 보안 검증과 무결성 감시를 거쳐야 할 것입니다.
출처
- Check Point Research: Free the Model, Sell the Gateway: Prompt Adware hidden in Jailbreak Bundles