Anthropic, AI 평가 단체 METR에 직원급 내부 접근권 부여 및 공개 거부권 포기
Anthropic이 AI 안전 평가 비영리 단체 METR 연구원들에게 사내 정직원 수준의 내부 시스템 접근 권한을 부여하고, 독자 평가 결과에 대한 공개 차단 권한을 포기했습니다. 외부 독립 감사 거버넌스의 새로운 실험으로 주목받고 있습니다.
인공지능 개발사 Anthropic이 2026년 10월 15일, AI 모델 평가 전문 비영리 연구 기관인 METR(Model Evaluation and Threat Research) 소속 연구원들에게 사내 정직원과 동등한 내부 시스템 및 데이터 접근 권한을 부여했습니다. 이번 파트너십을 통해 Anthropic은 METR의 독자적인 평가 결과 발표를 사전에 차단하거나 거부할 수 있는 권리를 공식적으로 포기했습니다.
이미지 출처: TechCrunch / note.com
기존 주요 AI 기업들이 자체 선별한 자료나 제한적인 API 엔드포인트를 통해서만 외부 안전성 검증을 허용하던 관행에서 벗어나, 독립 평가 기관에 사내 핵심 시스템을 직접 개방한 전례 없는 외부 감사 거버넌스 사례로 평가받고 있습니다.
정직원 수준의 내부 시스템 접근과 모델 위험 독립 평가 권한
이번 협약의 핵심은 외부 안전 연구원들에게 부여된 접근 권한의 깊이입니다.
METR(Model Evaluation and Threat Research)은 프런티어 AI 모델 위험 요인과 보안 및 시스템 운영 인시던트, 내부 관행을 독립적으로 평가하는 비영리 연구 조직입니다. 기존 상용 AI 평가에서는 기업이 선별한 자료나 제한된 API를 호출하는 방식으로만 조사가 이루어져 내부 실제 동작을 파악하는 데 구조적 한계가 있었습니다.
- 사내 정직원급 시스템 접근: METR 연구원들은 Anthropic 내부 정직원과 동일한 수준으로 사내 시스템 및 데이터에 직접 접근할 수 있습니다.
- 독립적 위험 평가 체계: 외부 연구진이 모델 위험 요인, 보안 및 운영 인시던트, 내부 운영 관행을 기업의 개입 없이 독립적으로 직접 조사하고 진단합니다.
이를 통해 선별된 결과만을 외부에 공개하던 기존 '블랙박스형' 검증의 한계를 극복하고 실질적인 투명성을 확보할 수 있는 토대를 마련했습니다.
사전 검열·공개 차단 거부권의 공식 포기와 업계 파급력
접근 권한 개방과 함께 업계의 큰 주목을 받은 대목은 Anthropic의 '공개 거부권 포기' 결정입니다.
통상 기업이 외부 감사를 수용할 때도 영업 비밀 보호나 브랜드 리스크 관리를 이유로 최종 평가 보고서의 공개 여부나 표현 수위를 통제할 수 있는 거부권을 확보하는 것이 일반적이었습니다. 그러나 Anthropic은 METR이 진행한 평가 결과에 대해 발표를 차단하거나 삭제를 요구할 권리를 내려놓았습니다.
TechCrunch 보도에 따르면, 이번 조치는 "외부 검사원에게 사내 주방 열쇠를 온전히 넘겨주고, 어떤 결과가 나오든 발표를 막을 거부권을 스스로 포기한 것"에 비유되고 있습니다. 이는 모델 안전성을 독자적으로 주장해 온 경쟁 프런티어 AI 개발사 및 업계 전반에 실질적인 외부 감사 및 투명성 확보를 요구하는 강력한 선례이자 업계 압박으로 작용할 전망입니다.
단일 기업의 자발적 실험이라는 한계와 세부 운영 과제
이번 조치가 AI 거버넌스에 중요한 이정표를 제시했음에도 불구하고, 실질적인 운영 측면에서는 명확한 한계와 주의점이 존재합니다.
- 자발적 협약의 한계: 이번 조치는 정부나 국제기구의 법제화된 규제 표준이 아니라 Anthropic 단일 기업의 자발적 협약입니다. 따라서 업계 전반의 의무화된 거버넌스 표준으로 확장될 수 있을지는 여전히 불확실합니다.
- 보안 경계 및 기밀 보호 프로토콜: 결과 공개 거부권을 포기했으나, 실제 감사 과정에서 기업 고유의 지식재산권(IP), 핵심 영업 기밀, 인프라 보안 취약점의 노출 범위를 어떻게 통제하고 분리할 것인지에 대한 세부 운영 프로토콜은 지속적인 모니터링과 검증이 필요합니다.
외부 독립 감사의 실효성을 입증하기 위해서는 향후 METR이 실제로 발표할 감사 보고서의 수위와 운영 투명성이 중요한 시금석이 될 것으로 보입니다.