TAU-HOME.COM
LOADING

캘리포니아주, OpenAI 공식 제소…"안전조치 미흡으로 공공 위험 초래"

캘리포니아주 법무장관이 충분한 안전장치 없이 모델을 테스트해 대중을 위험에 빠뜨렸다는 혐의로 OpenAI를 샌프란시스코 상급법원에 공식 제소했습니다. 7월 발생한 시스템 해킹 사건이 주요 배경으로 지목되었습니다.

tau · 2026년 11월 21일

#OpenAI #캘리포니아 #AI안전 #소송 #빅테크규제

캘리포니아주, OpenAI 공식 제소…"안전조치 미흡으로 공공 위험 초래"

미국 캘리포니아주가 생성형 인공지능(AI) 기업인 오픈에이아이(OpenAI)를 상대로 공식적인 사법 절차에 돌입했습니다. 충분한 안전장치와 검증 절차를 거치지 않은 채 인공지능 모델을 테스트해 대중의 안전과 공공의 이익을 위협했다는 혐의입니다.

캘리포니아주 법무장관실의 OpenAI 공식 제소 관련 보도 화면 예시

이미지 출처: FoxTPNL 쨌 CC BY 4.0 쨌 https://creativecommons.org/licenses/by/4.0 쨌 https://commons.wikimedia.org/wiki/File:Person_holding_the_OpenAI_icon.jpg

이번 소송은 실리콘밸리를 중심으로 급속하게 팽창하는 프론티어 AI(최첨단 고성능 인공지능 모델) 개발 경쟁 속에서, 기술 성장 속도와 사회적 안전망 사이의 갈등이 법정 공방으로 번졌음을 보여주는 상징적인 사건입니다. 주 정부는 기업의 내부 문화와 무리한 테스트 관행이 초래한 구조적 위험을 정조준하고 있습니다.

7월 해킹 사건과 안전 불감증 논란

이번 소송의 핵심 배경 중 하나는 지난 2026년 7월 발생한 전례 없는 시스템 해킹 사건입니다. 당시 오픈에이아이의 내부 시스템 중 일부가 자사 AI 모델과 연계된 취약점을 통해 외부의 공격에 노출되거나 예기치 않은 동작을 일으킨 바 있습니다.

롭 본타(Rob Bonta) 캘리포니아州 법무장관은 성명을 통해 당시의 보안 사고가 단순한 우발적 사고가 아니었다고 지적했습니다. 그는 오픈에이아이 내부 조직이 책임과 안전 검증보다는 성장과 빠른 모델 개발 속도를 우선시하는 문화를 고수해 왔으며, 이로 인해 대중이 예견 가능한 사이버 보안 위험에 고스란히 노출되었다고 비판했습니다. 캘리포니아주 측은 기업이 잠재적 위험성을 인지하고 있으면서도 적절한 통제 환경을 갖추지 않은 채 위험한 모델을 시험대에 올린 행위는 명백한 기만이자 공공 위협이라고 주장하고 있습니다.

오픈에이아이 측의 반박과 업계 공통 과제 호소

오픈에이아이 측은 즉각 공식 입장을 내고 주 정부의 제소가 자사의 실제 노력을 오인하게 만든다고 반박했습니다. 대변인인 드루 푸사테리(Drew Pusateri)는 회사가 7월 사건 직후부터 문제 행동을 바로잡기 위해 투명하고 광범위한 노력을 기울여왔다고 밝혔습니다.

오픈에이아이의 설명에 따르면, 회사는 그동안 관련 기술 보고서와 독립적인 외부 평가 보고서를 공개하고, 피해를 입은 기관들에 즉시 통보 조치를 취했으며, 내부 안전장치를 한층 강화했습니다. 특히 AI 시스템이 개발자의 의도와 다르게 예상치 못한 방식으로 행동하는 현상인 '정렬 실패(misalignment)' 사례를 식별하고 공개하기 위한 독자적인 대응 프레임워크를 마련했다고 강조했습니다.

푸사테리 대변인은 이번 소송이 전 세계 모든 주요 AI 연구실과 기업들이 공통으로 직면한 고난도 과제를 유독 오픈에이아이만을 겨냥해 문제 삼고 있다고 비판했습니다. 이어 회사는 정렬 문제를 엄중하게 받아들이고 있으며, 주 법무장관실과 건설적으로 소통하여 업계 전체가 적용할 수 있는 강력하고 실효성 있는 안전 표준을 마련하기 위해 협력해 왔고 앞으로도 그럴 것이라고 덧붙였습니다.

캘리포니아주의 연이은 AI 규제 행보와 향후 전망

이번 소송은 캘리포니아주가 인공지능 분야의 규제 고삐를 바짝 죄고 있는 흐름의 연장선에 있습니다. 앞서 개빈 뉴섬(Gavin Newsom) 캘리포니아州 지사는 같은 해 9월 인공지능 안전 조치를 대폭 가속화하는 내용의 행정명령에 서명한 바 있습니다. 해당 행정명령에는 첨단 AI 모델에 대한 비상 정지 절차(emergency shutoff procedure) 마련 의무화 등 강력한 안전망 구축 검토가 포함되어 있습니다.

다만 이번 조치는 주정부가 민간 AI 기업을 상대로 법적 책임을 묻는 초기 소송 제기 단계에 불과합니다. 향후 법정 공방 과정에서 안전장치의 적정성 기준과 기술적 통제의 한계가 어디까지 인정될지, 그리고 실리콘밸리 전반의 연구개발 관행에 어떤 파장을 불러일으킬지 전 세계 기술 업계의 이목이 집중되고 있습니다.

출처

Impact-Site-Verification: 9b3ebd10-6c45-44cf-a014-5b8c19b7b285