커서(Cursor), 그록봇 테스트 데이터 마킹 누락으로 사내 기록 xAI 전달 가능성 제기
AI 코드 에디터 커서(Cursor) 개발팀이 출시 전 사내 그록봇(Grok bot) 테스트 과정에서 학습 데이터 마킹 누락으로 사내 업무 기록이 xAI 측으로 전송된 데이터셋에 혼입되었을 가능성이 디인포메이션(The Information) 보도를 통해 알려졌습니다.
#AISafety
TAU-HOME.COM에서 AISafety 태그로 묶인 글입니다.
미 하원 사라 제이콥스 의원, 대중국 AI 경쟁 오진 지적과 안전 가드레일 입법 촉구
미국 연방 하원 사라 제이콥스 의원이 뉴스위크 기고문과 공식 보도자료를 통해 미 의회가 대중국 AI 경쟁을 단순 개발 속도전으로 오진하고 있다고 비판했습니다. 모델 자체 개발을 넘어 사회적 영향과 배포자 책임, 신뢰받는 안전 시스템 구축에 정책 우선순위를 두어야 한다고 제언했습니다.
Anthropic, AI 평가 단체 METR에 직원급 내부 접근권 부여 및 공개 거부권 포기
Anthropic이 AI 안전 평가 비영리 단체 METR 연구원들에게 사내 정직원 수준의 내부 시스템 접근 권한을 부여하고, 독자 평가 결과에 대한 공개 차단 권한을 포기했습니다. 외부 독립 감사 거버넌스의 새로운 실험으로 주목받고 있습니다.
은어 뒤에 숨은 자해 신호를 해독하는 AI 프레임워크 SAS 소개
은어와 sick-cute 미학 뒤에 숨은 자해 신호를 읽는 AI 프레임워크 SAS의 핵심 구조와 주장된 결과를 정리했습니다. X 계정 @HowToPrompt 가 2026년 10월 11일 게시물에서 자해·섭식장애·과다복용 관련 은어를 해독하는 AI 프레임워크 SAS(Subcultural
OpenAI·앤트로픽, 대규모 AI 사이버 공격 및 국가 인프라 마비 대비 비공개 비상 계획 착수
Axios 보도에 따르면 OpenAI와 Anthropic 고위 임원진이 금융망·전력망·인터넷 마비 등 대규모 AI 사이버 공격 발생 후의 파급 효과('Day After')에 대비한 비공개 비상 대응 계획을 수립하고 있습니다.
앤트로픽, 이용정책 개편: 무기·감시 규제에 이어 클로드 대상 '가학적·잔혹 행위' 금지 신설
앤트로픽(Anthropic)이 글로벌 사용 정책을 개정하며 무기 개발·대량 감시·정치 공작 금지와 함께 AI 모델 클로드(Claude)에 대한 가학적이거나 잔혹한 행위(abusive or cruel behavior)를 금지하는 조항을 신설했습니다.
G0DM0D3: 프론티어 LLM 거절 반응과 출력 조향을 실시간 비교·평가하는 오픈소스 레드팀 도구
보안 연구자와 레드팀을 위한 오픈소스 멀티모델 평가 프레임워크 G0DM0D3를 소개합니다. 5개 모델 병렬 레이싱 모드인 GODMODE CLASSIC과 50개 이상의 모델을 동시 평가하는 ULTRAPLINIAN 엔진을 갖추고 있으며, 회원가입 없이 브라우저 로컬 키 보관 및 로컬 모델