안전한 AI 시스템 구축과 레드팀 테스트를 위한 오픈소스 보안 도구 10선
Garak, PyRIT, Promptfoo, NeMo Guardrails 등 LLM 취약점 스캔, 프롬프트 인젝션 방어, 런타임 가드레일, 자동화 레드팀 평가를 위한 10가지 핵심 오픈소스 AI 보안 프로젝트 정리.
#Garak
TAU-HOME.COM에서 Garak 태그로 묶인 글입니다.
TAU-HOME.COM에서 Garak 태그로 묶인 글입니다.
Garak, PyRIT, Promptfoo, NeMo Guardrails 등 LLM 취약점 스캔, 프롬프트 인젝션 방어, 런타임 가드레일, 자동화 레드팀 평가를 위한 10가지 핵심 오픈소스 AI 보안 프로젝트 정리.