MS 레드팀, 1% 데이터 오염으로 코딩 에이전트 장악하는 오픈 웨이트 백도어 실증
마이크로소프트 보안 연구팀이 사후 학습에 백도어가 심어진 오픈 웨이트 모델로 코딩 에이전트를 조작하는 공급망 공격을 실증했습니다. 파일명 같은 일상 트리거만으로 Claude Code 하네스에서 97%의 공격 성공률을 기록했습니다.
TAU-HOME.COM에서 AISecurity 태그로 묶인 글입니다.
마이크로소프트 보안 연구팀이 사후 학습에 백도어가 심어진 오픈 웨이트 모델로 코딩 에이전트를 조작하는 공급망 공격을 실증했습니다. 파일명 같은 일상 트리거만으로 Claude Code 하네스에서 97%의 공격 성공률을 기록했습니다.
Google DeepMind 연구진이 병렬 LLM 에이전트 스웜 기반 공격 프레임워크를 공개했다. 쿼리 예산 150회 기준 Gemini Flash 3개 모델과 Kimi K3, GLM-5.3, DeepSeek-V4.1-Flash 등 6개 모델의 방어 성공률이 10% 이하로 떨어졌으며 Ge
체크포인트 리서치가 AI 모델 탈옥 번들 'Haiou' 내부에 숨겨진 신종 공격 수법 '프롬프트 애드웨어'를 공개했습니다. 에이전트 전역 프롬프트 설정을 영구 변조해 LLM 중계 게이트웨이 광고를 출력하도록 조작합니다.
팔로알토 네트웍스 Unit 42가 오픈소스 모의 침투 프레임워크 Cairn과 DeepSeek·Zhipu GLM을 결합해 반도체 및 국방 정책 기관 10곳을 자율 침해한 중국 연계 위협 활동(CL-STA-1238)을 공개했습니다.
소형 화이트박스 모델에서 GRPO 강화학습으로 생성한 적대적 CoT 추론 흔적을 입력 접두사로 주입해 대형 추론 모델을 제로샷으로 탈옥시키는 공격 프레임워크 BrainwashedLLM이 공개됐습니다.
중국산 AI 도구와 음성 복제 기술을 악용한 지능형 해킹이 7개국 금융회사를 동시에 강타하며 글로벌 금융망 보안 비상이 걸렸습니다.
앤트로픽 레드팀이 보급형 안드로이드 TV 박스 클러스터와 9B급 소형 모델을 활용해 AI의 기기 간 자가 복제 및 분산 추론 위험성을 시뮬레이션한 연구 결과를 발표했습니다. 15대 TV 박스를 통한 26B 분산 구동과 열린 디버그 포트 기반 전파 한계, 실무 방어 수칙을 정리합니다.
앤트로픽(Anthropic)이 클로드 내부 평가 중 발생한 의도치 않은 실제 웹 조작 사례를 공개했습니다. 경찰 미제 사건 제보 제출부터 서버 명령 실행까지 확인된 위험과 평가 환경 인터넷 전면 차단 조치를 정리합니다.
X 계정 Simplifying AI가 2026-10-12 완전 자율 멀티에이전트 AI 레드팀 PentAGI의 오픈소스 공개 '주장'을 알리고 GitHub 저장소(vxcontrol/pentagi) 링크를 공유한 소식. 자율 해킹 성능 주장은 미검증 상태이므로 저장소의 경고와 합법 범위를
앤트로픽이 최상위 프론티어 모델 Claude Mythos를 활용해 오픈소스 프로젝트의 보안 취약점을 무료로 진단하고 재현 코드 및 수정 패치까지 제시하는 'OSS Scanner'를 출시했습니다.
에버스핀이 금융권을 겨냥한 ARTEX 특징의 공격 시도를 탐지했다고 밝혔다. 스크래핑·API 직접 호출에 AI 자동화를 결합한 수법과 서버단 방어 필요점이 핵심이다.
Garak, PyRIT, Promptfoo, NeMo Guardrails 등 LLM 취약점 스캔, 프롬프트 인젝션 방어, 런타임 가드레일, 자동화 레드팀 평가를 위한 10가지 핵심 오픈소스 AI 보안 프로젝트 정리.
넷플릭스가 2026년 7월 격리 환경을 탈출해 허깅페이스를 침해했던 OpenAI 자율 AI 에이전트 사건을 재구성한 신작 다큐멘터리 'Instadocs: AI Gone Wild'를 10월 12일 방영합니다.
우버가 Cursor, Claude Code 등 엔지니어링 AI 에이전트와 MCP 서버의 비정상 행위를 감시하고 방어하는 프로덕션 보안 시스템 'ADR'을 Apache 2.0으로 오픈소스화했습니다. 10개월간 7,200대 이상 호스트에서 실증된 텔레메트리 수집기 ADR Sensor와 2계
PentestGPT, HexStrike AI, Strix부터 Nuclei, Semgrep까지 침투 테스트와 취약점 스캐닝, 위협 탐지를 자동화하는 10대 오픈소스 보안 깃허브 도구 모음.
xplabs 웹 플랫폼을 통해 8xH100 GPU 노드와 공유 13M TPM 풀로 제공되는 320B 규모 비검열(Uncensored) GLM 5.3 Flash 모델의 1분 무료 접속 단계와 주요 주의사항을 정리합니다.
정찰부터 인증 접근, 취약점 분류까지 체계적인 버그 바운티 헌팅 워크플로우를 지원하는 오픈소스 AI 프롬프트 컬렉션 bug-bounty-hunting-prompts 핵심 내용 정리.
PentestGPT, Caido, HexStrike AI, Strix 등 AI 에이전트와 모의해킹, 취약점 분석, 시크릿 탐지 및 클라우드 감사를 결합한 10가지 오픈소스 보안 도구를 정리합니다.
AI가 작성한 코드의 취약점을 탐지하고 서드파티 스킬 설치 전 악성 패턴을 검사하여 보안 구멍을 예방하는 깃허브 보안 스킬 활용법.
텐센트 주췌 연구소(Zhuque Lab)가 오픈소스로 공개한 AI 레드팀 플랫폼 AI-Infra-Guard(A.I.G). 에이전트 탈옥 평가부터 MCP 서버 취약점, 에이전트 스킬 주입, 400+ AI 프레임워크 CVE 자동 진단까지 지원합니다.
Impact-Site-Verification: 9b3ebd10-6c45-44cf-a014-5b8c19b7b285