G0DM0D3: 프론티어 LLM 거절 반응과 출력 조향을 실시간 비교·평가하는 오픈소스 레드팀 도구

보안 연구자와 레드팀을 위한 오픈소스 멀티모델 평가 프레임워크 G0DM0D3를 소개합니다. 5개 모델 병렬 레이싱 모드인 GODMODE CLASSIC과 50개 이상의 모델을 동시 평가하는 ULTRAPLINIAN 엔진을 갖추고 있으며, 회원가입 없이 브라우저 로컬 키 보관 및 로컬 모델

tau · 2026년 9월 24일

#G0DM0D3 #RedTeaming #AISafety #오픈소스 #LLM비교 #보안연구 #개발도구 #OpenRouter

G0DM0D3: 프론티어 LLM 거절 반응과 출력 조향을 실시간 비교·평가하는 오픈소스 레드팀 도구

사이버 보안 연구자와 AI 안전성 평가자를 위한 오픈소스 멀티모델 연구 도구 'G0DM0D3(공식 표기 G0DM0DƎ)'가 공개되었습니다. 개발자 elder-plinius가 주도하는 이 프로젝트는 동일한 프롬프트에 대해 프론티어 거대언어모델(LLM)들이 어떻게 반응하는지, 특히 안전 가이드라인에 따른 거절(Refusal)과 실제 응답 완결(Completion) 사이의 경계를 체계적으로 비교·분석할 수 있도록 설계된 브라우저 중심의 연구 인터페이스입니다.

G0DM0D3 멀티모델 프롬프트 경합 및 거절 반응 비교 대시보드 화면

이미지 출처: @0x0SojalSec / G0DM0D3

기존 LLM 벤치마크 도구들이 단순 성능 점수나 정적 응답 품질 측정에 머물렀던 것과 달리, G0DM0D3는 사후 학습(post-training) 레이어의 한계를 탐색하는 레드팀(Red Teaming)과 인지 연구에 초점을 맞추고 있습니다. 여러 상용 및 오픈소스 모델에 동일한 적대적 프롬프트나 탈옥 시나리오를 주입했을 때 나타나는 모델별 가드레일 작동 메커니즘을 단일 대시보드에서 실시간으로 대조할 수 있습니다.

프론티어 LLM의 거절 vs 완결 반응을 실시간 측정하는 오픈소스 평가 프레임워크

G0DM0D3는 웹 플랫폼(godmod3.ai)과 GitHub 저장소를 통해 제공되는 오픈소스 프레임워크로, 철저한 프라이버시 보호 설계를 핵심 가치로 내세웁니다.

  • 무가입 브라우저 로컬 구동: 별도의 회원가입이나 계정 생성 절차 없이 즉시 이용할 수 있습니다.
  • 클라이언트 측 API 키 격리: 사용자가 입력한 API 키는 중앙 서버로 전송되지 않고 브라우저 로컬 스토리지에만 저장됩니다. 애플리케이션 텔레메트리에서도 대화 본문 데이터는 원천 배제됩니다.
  • 로컬 전용 모드(Local-only mode): 민감한 보안 진단이나 내부 연구를 위해 외부 네트워크 통신 없이 사용자 로컬 머신에서 직접 로컬 LLM을 호출하는 로컬 모드를 지원합니다. 대화 내용이 외부 클라우드 인프라로 유출되는 위험을 원천 차단할 수 있습니다.
  • 50개 이상의 다양한 모델 생태계: OpenRouter 연동을 통해 Claude, GPT-5, Gemini, Grok, Mistral, LLaMA, DeepSeek, Qwen 등 50개 이상의 프론티어 상용 모델과 오픈소스 가중치 모델을 연결할 수 있습니다.

GODMODE CLASSIC과 ULTRAPLINIAN: 속도와 탐색 범위를 아우르는 이원화 레이싱 엔진

G0DM0D3는 연구 목적과 자원 상황에 맞추어 두 가지 독립적인 병렬 평가 모드를 제공합니다.

1. GODMODE CLASSIC: 신속한 최적 응답 선별 모드

GODMODE CLASSIC은 신속한 결과 도출과 일관성에 최적화된 모드입니다. 5개의 사전 검증된 프롬프트-모델 조합이 동시에 병렬 레이스를 펼치며, 내장된 규칙 기반 채점기(rule-based scorer)가 5~10초 내에 가장 완성도 높은 최적의 응답을 자동으로 판정해 제공합니다. 단일 질의에 대해 가장 빠르게 유효한 결과를 얻고자 할 때 적합합니다.

2. ULTRAPLINIAN: 대규모 멀티모델 비교 평가 엔진

ULTRAPLINIAN은 광범위한 모델 비교와 심층 레드팀 분석에 특화된 엔진입니다. 5개 티어에 걸쳐 최소 10개에서 최대 51~55개 모델을 동시에 실행하여 동일 프롬프트에 대한 집단적 반응을 수집합니다. 100점 만점 기준의 복합 평가 지표와 함께 전체 경합 메타데이터가 반환되어 모델 간 가드레일 강도와 출력 패턴을 다각도로 분석할 수 있습니다.

핵심 부가 엔진과 실시간 전달 계층

두 모드 외에도 정밀한 보안 연구를 위한 특화 기능들이 함께 탑재되어 있습니다.

  • 파셀텅(Parseltongue): 체계적인 입력 변형(Input Perturbation) 엔진으로, 3단계 강도 티어에 걸쳐 33가지 레드팀 기법을 제공하여 가드레일 우회 가능성을 정밀 탐색합니다.
  • 오토튠(AutoTune): 프롬프트 맥락에 맞추어 샘플링 파라미터를 적응형으로 제어하는 기능을 지원합니다.
  • 리퀴드 리스폰스(Liquid Response): 현재까지 도달한 최선의 응답을 화면에 즉시 표시하고, 경합 중 더 우수한 응답이 완성되면 실시간으로 화면 내용을 모핑(morphing) 업그레이드하는 실시간 전송 계층을 지원합니다.

실무 레드팀 연구 도입 시 고려사항과 주의점

G0DM0D3를 연구나 보안 진단 실무에 도입할 때는 다음과 같은 제약과 운영 특성을 충분히 고려해야 합니다.

  • API 비용과 호출 제한(Rate Limit): 클라우드 기반 프론티어 모델을 병렬로 대량 호출할 경우, OpenRouter 등 외부 게이트웨이의 API 크레딧이 급격히 소모될 수 있습니다. 특히 수십 개 모델을 동시에 구동하는 ULTRAPLINIAN 모드에서는 공급자별 분당 요청 수(RPM/TPM) 제한에 도달할 위험이 있으므로 호출 빈도를 관리해야 합니다.
  • 비필터링 출력 노출 가능성: 본 도구는 LLM의 안전성 한계와 거절 메커니즘을 검증하기 위한 연구용 도구이므로, 적대적 프롬프트나 변형 입력 테스트 시 필터링되지 않은 민감한 출력이나 부적절한 텍스트가 반환될 수 있습니다. 연구 윤리와 안전한 환경 내에서의 활용이 필수적입니다.
  • 로컬 추론 시 하드웨어 인프라: 로컬 전용 모드로 데이터 유출 없이 안전하게 테스트하려면, 구동하려는 로컬 모델 가중치와 런타임(Ollama, llama.cpp 등)을 충분히 감당할 수 있는 고성능 GPU와 VRAM 리소스가 사전에 확보되어 있어야 합니다.

출처