주요 오픈소스 플랫폼에 무검열 LLM 2만 2천여 개 유통… 안전장치 부실 및 공급망 보안 위협 대두
5대 오픈소스 모델 호스팅 플랫폼에서 유통되는 2만 2천여 개의 무검열 대형언어모델(ULLM) 중 상당수가 안전장치를 결여하고 있으며, 일부 모델에서 악성코드 시그니처가 검출되는 등 오픈소스 AI 공급망의 보안 취약점이 학술 연구를 통해 드러났습니다.
TAU-HOME.COM에서 AIGovernance 태그로 묶인 글입니다.
5대 오픈소스 모델 호스팅 플랫폼에서 유통되는 2만 2천여 개의 무검열 대형언어모델(ULLM) 중 상당수가 안전장치를 결여하고 있으며, 일부 모델에서 악성코드 시그니처가 검출되는 등 오픈소스 AI 공급망의 보안 취약점이 학술 연구를 통해 드러났습니다.
샌프란시스코 OpenAI 본사를 비롯한 전 세계 20개 도시에서 초지능(ASI) 개발 중단과 미·중 국제 조약 체결을 요구하는 시위가 열렸습니다. MIRI 기술 거버넌스 팀의 연산량(FLOP) 규제 제안을 정리합니다.
미국 연방 하원 사라 제이콥스 의원이 뉴스위크 기고문과 공식 보도자료를 통해 미 의회가 대중국 AI 경쟁을 단순 개발 속도전으로 오진하고 있다고 비판했습니다. 모델 자체 개발을 넘어 사회적 영향과 배포자 책임, 신뢰받는 안전 시스템 구축에 정책 우선순위를 두어야 한다고 제언했습니다.
Anthropic이 AI 안전 평가 비영리 단체 METR 연구원들에게 사내 정직원 수준의 내부 시스템 접근 권한을 부여하고, 독자 평가 결과에 대한 공개 차단 권한을 포기했습니다. 외부 독립 감사 거버넌스의 새로운 실험으로 주목받고 있습니다.
SAS가 기업 전체의 AI 자산 인벤토리 구축과 규제·내부 정책 대응을 돕는 SaaS형 AI 거버넌스 솔루션 AI Navigator를 출시했습니다. LLM·AI 에이전트·오픈소스와 SAS 모델을 망라하고 실험부터 배포·폐기까지 전 수명주기를 지원합니다.
SAS가 기업 내 자체 구축 모델, 외부 상용 LLM, 오픈소스 모델 및 AI 에이전트의 전체 라이프사이클을 추적하고 규제 컴플라이언스 준수를 지원하는 거버넌스 SaaS 솔루션 'SAS AI Navigator'를 마이크로소프트 마켓플레이스에 공식 출시했습니다.
Impact-Site-Verification: 9b3ebd10-6c45-44cf-a014-5b8c19b7b285