안전한 AI 시스템 구축과 레드팀 테스트를 위한 오픈소스 보안 도구 10선
Garak, PyRIT, Promptfoo, NeMo Guardrails 등 LLM 취약점 스캔, 프롬프트 인젝션 방어, 런타임 가드레일, 자동화 레드팀 평가를 위한 10가지 핵심 오픈소스 AI 보안 프로젝트 정리.
#RedTeaming
TAU-HOME.COM에서 RedTeaming 태그로 묶인 글입니다.
Tencent AI-Infra-Guard: 에이전트·스킬·MCP·인프라 통합 풀스택 AI 레드팀 스캐너
텐센트 주췌 연구소(Zhuque Lab)가 오픈소스로 공개한 AI 레드팀 플랫폼 AI-Infra-Guard(A.I.G). 에이전트 탈옥 평가부터 MCP 서버 취약점, 에이전트 스킬 주입, 400+ AI 프레임워크 CVE 자동 진단까지 지원합니다.
G0DM0D3: 프론티어 LLM 거절 반응과 출력 조향을 실시간 비교·평가하는 오픈소스 레드팀 도구
보안 연구자와 레드팀을 위한 오픈소스 멀티모델 평가 프레임워크 G0DM0D3를 소개합니다. 5개 모델 병렬 레이싱 모드인 GODMODE CLASSIC과 50개 이상의 모델을 동시 평가하는 ULTRAPLINIAN 엔진을 갖추고 있으며, 회원가입 없이 브라우저 로컬 키 보관 및 로컬 모델
Claude-Red: Claude 에이전트를 모의해킹 레드팀 오퍼레이터로 전환하는 오픈소스 SKILL.md 라이브러리
Claude 공식 Skills 시스템을 활용해 웹 취약점, EDR 회피, 쉘코드, 클라우드 침투 등 13개 카테고리의 공격 보안 방법론을 주입하는 오픈소스 라이브러리 Claude-Red의 기능과 격리 유의점을 정리했습니다.