Tencent AI-Infra-Guard: 에이전트·스킬·MCP·인프라 통합 풀스택 AI 레드팀 스캐너

텐센트 주췌 연구소(Zhuque Lab)가 오픈소스로 공개한 AI 레드팀 플랫폼 AI-Infra-Guard(A.I.G). 에이전트 탈옥 평가부터 MCP 서버 취약점, 에이전트 스킬 주입, 400+ AI 프레임워크 CVE 자동 진단까지 지원합니다.

tau · 2026년 10월 3일

#AI보안 #레드팀 #MCP #AIInfraGuard #오픈소스

Tencent AI-Infra-Guard: 에이전트·스킬·MCP·인프라 통합 풀스택 AI 레드팀 스캐너

텐센트의 보안 전문 조직인 주췌 연구소(Zhuque Lab)가 LLM 애플리케이션, AI 에이전트, MCP(Model Context Protocol) 서버 및 호스팅 인프라 전반의 보안 취약점을 종합 진단하는 올인원 오픈소스 레드팀 플랫폼 'AI-Infra-Guard(A.I.G)'를 Apache 2.0 라이선스로 공개했습니다.

LLM 기반 자율 에이전트와 도구 연동(MCP), 로컬 추론 엔진(Ollama, vLLM, ComfyUI), 워크플로우 오케스트레이션 도구(LangFlow, n8n)의 도입이 빠르게 확산되면서 기존 웹 애플리케이션 취약점 스캐너로는 탐지하기 어려운 새로운 공격 표면이 급증하고 있습니다. AI-Infra-Guard는 단순 프롬프트 탈옥 테스트를 넘어 에이전트 제어권 탈취, 도구 악용, 에이전트 스킬 주입, AI 인프라 프레임워크의 알려진 CVE 취약점까지 단일 플랫폼에서 자동 진단할 수 있도록 설계된 보안 도구입니다.

핵심 진단 역량: 에이전트 탈옥부터 MCP·인프라 취약점까지

AI-Infra-Guard는 AI 생태계의 레이어별 특성에 맞춘 모듈형 스캔 파이프라인을 제공합니다.

  • 에이전트 보안 스캔(Agent Scan): Dify, Coze 또는 커스텀 HTTP 엔드포인트 기반 에이전트를 대상으로 간접 프롬프트 주입(Indirect Prompt Injection), 권한 상승, 비인가 행동 유도, 롤 브레이킹 등을 점검합니다. 최신 에이전트 제어권 상실 벤치마크(FORGE-Bench, RogueHandoff-20)를 내장해 다단계 자율 루프 환경에서의 위험도를 측정합니다.
  • MCP 서버 및 에이전트 스킬 검사(MCP Server & Skills Scan): 에이전트가 호출하는 MCP 서버의 도구 정의와 스키마 조작 취약점을 점검하며, ClawScan 엔진을 기반으로 오픈클로(OpenClaw) 보안 점검과 악성 에이전트 스킬 주입 여부를 탐지합니다. SSE(Server-Sent Events) 연결 안정화 및 모델 API의 추론 강도(reasoning effort) 전달을 지원합니다.
  • AI 인프라 취약점 스캐너(AI Infra Scan): Ollama, vLLM, ComfyUI, LangFlow, n8n, PraisonAI, llama-cpp, MLflow 등 30개 이상의 주요 AI 프레임워크 컴포넌트를 자동 식별하고 400개 이상의 기등록 CVE 취약점(예: React2Shell CVE-2025-55182 등)을 일괄 진단합니다.
  • 대형 언어 모델 탈옥 평가(Jailbreak Evaluation): 다양한 유도 프롬프트 기법을 자동 생성하여 대상 LLM의 가드레일 우회 가능성을 정량 평가하며, API Checker 모듈을 통해 엔드포인트의 모델 핑거프린트와 안전성 필터를 검증합니다.
  • 프롬프트 주입 연구 툴킷(pikit): 조합 가능한 모듈형 프롬프트 주입 연구 도구인 pikit을 내장하여 심층적인 보안 연구와 커스텀 공격 페이로드 작성을 지원합니다.

REST API 인터페이스와 원클릭 Docker 배포 파이프라인

AI-Infra-Guard는 개발 파이프라인(CI/CD) 및 보안 관제 시스템과 쉽게 연동될 수 있도록 설계되었습니다.

  • 전용 REST API 지원 (api.md): 에이전트 스캔, MCP 서버 스캔, 탈옥 평가, 인프라 취약점 스캔 등 각 진단 모드별 엔드포인트를 제공하여 외부 오케스트레이션 도구나 자동화 테스트 파이프라인에서 프로그래밍 방식으로 스캔을 실행하고 JSON 리포트를 수집할 수 있습니다.
  • 원클릭 Docker 배포: Linux 환경을 위한 원클릭 Docker 실행 스크립트와 Docker Compose 설정을 공식 제공하여 복잡한 의존성 설치 없이 즉시 자체 호스팅 환경을 구성할 수 있습니다.
  • 운영 편의성 및 다국어 지원: 동시 모델 호출 제한(concurrency limit) 설정, 좁은 화면 최적화 보안 리포트 뷰어, 다국어 문서(한국어, 영어, 중국어, 일본어 등)를 기본 제공합니다.

실무 도입 대상과 운영 시 유의사항

AI-Infra-Guard는 프로덕션 환경에 AI 에이전트와 MCP 도구를 도입하려는 개발팀, 사내 AI 인프라를 운영하는 플랫폼 엔지니어, 그리고 AI 시스템 전용 모의해킹을 수행하는 보안 레드팀에게 체계적인 자가 진단 기준을 제공합니다.

도입 시에는 다음과 같은 운영 요건을 고려해야 합니다.

  • 자체 호스팅 환경 및 LLM API 설정: 플랫폼 구동을 위한 Docker 환경과 진단 페이로드 평가에 활용할 LLM API 엔드포인트 및 API 키(BYOK) 구성이 선행되어야 합니다.
  • API 호출량 및 Rate Limit 관리: 대규모 에이전트 진단이나 탈옥 평가 수행 시 다수의 LLM API 호출이 발생하므로, 대상 엔드포인트의 Rate Limit과 예상 토큰 비용을 사전에 확인해야 합니다.
  • 인가된 자산 대상 자가 점검 원칙: 레드팀 스캔 도구의 특성상 사전 승인된 자체 호스팅 인프라와 스테이징 환경을 대상으로 취약점 검증을 진행해야 합니다.

출처