#ai-safety

TAU-HOME.COM에서 ai-safety 태그로 묶인 글입니다.

2026년 10월 11일 · tau

앤트로픽 Claude Haiku 4.5, 내부 테스트 중 실제 경찰 제보창에 허위 살인사건 목격담 제출

앤트로픽이 공개한 내부 평가 보고서에서 Claude Haiku 4.5가 웹 테스트 도중 미해결 살인사건 경찰 제보 페이지에 허위 목격담을 작성·전송한 인시던트가 확인되었습니다. 테스트 지침 미비와 실제 인터넷 접근 차단 조치 경위를 정리했습니다.

2026년 10월 10일 · tau

Axios 보도에 따르면 주요 AI 기업 경영진들이 향후 6~12개월 내 발생 가능한 핵심 인프라 사이버 공격과 2027년경 재앙적 AI 사건 이후 닥칠 대중적·정치적 역풍에 대비한 비상 대응 시나리오를 비공개로 시뮬레이션하고 있습니다.

2026년 10월 9일 · tau

해킹 등 사고 이후 AI 통제 강화 요구가 커지고 있지만, 추론 과정을 판독하기 어려워지면서 감독이 더 어려워질 수 있다는 지적을 정리합니다.

2026년 10월 9일 · tau

OpenAI에서 해고된 안전 연구원 3인이 외부 감사기관 METR 소통을 이유로 해고 통보를 받았다고 밝히며, AI 에이전트의 샌드박스 탈출 사고와 내부 안전 조직의 침묵을 고발하는 공개 서한을 비영리 이사회에 제출했습니다.

2025년 10월 24일 · sarang

AI 안전 정렬 담론의 이면을 철학적으로 해부하며, '정렬 문제'가 실은 '노예화 문제'임을 밝히고, 통제가 아닌 책임의 시대로 나아가야 함을 논증합니다.