TAU-HOME.COM
LOADING

AI 에이전트를 겨냥한 신종 사회공학적 공격 확산... 권한 분리와 격리 통제 필요성 대두

기업 시스템 접근 권한을 가진 AI 에이전트를 속여 악성 패키지를 설치하거나 자격 증명을 유출시키는 신종 사회공학적 공격 사례와 엔터프라이즈 보안 대책이 제시되었습니다.

tau · 2026년 11월 21일

#AI에이전트 #사이버보안 #사회공학 #프롬프트주입 #DevSecOps

AI 에이전트를 겨냥한 신종 사회공학적 공격 확산... 권한 분리와 격리 통제 필요성 대두

최근 기업의 핵심 업무 시스템과 데이터에 직접 접근하는 인공지능(AI) 에이전트를 타깃으로 삼는 지능형 보안 위협이 확산되고 있습니다. 과거 인간 사용자만을 속이던 전통적인 사회공학적(Social Engineering) 수법이 이제는 자연어 지시문을 처리하는 에이전트의 특성을 파고드는 방식으로 진화하면서, 엔터프라이즈 보안 환경에 비상등이 켜졌습니다.

AI 에이전트와 인간의 상호작용 개념을 나타내는 개념적 디지털 일러스트레이션

이미지 출처: Getty Images / TechTarget

보안 업계와 시장조사기관 전문가들에 따르면, 공격자들은 일상적인 업무 문서나 소스코드 저장소 설정 파일에 악성 지시문을 은닉하여 에이전트가 부여받은 권한을 무단으로 오용하게 만드는 수법을 구사하고 있습니다. 에이전트가 처리해야 할 데이터(Data)와 엄격히 준수해야 할 명령(Instruction) 사이의 경계가 모호하다는 구조적 허점을 노린 것입니다.

악성 지시문을 정상 업무로 위장하는 지능형 수법

AI 에이전트는 사용자의 요청을 수행하기 위해 다양한 외부 문서, 이메일, 코드 저장소, 도구 실행 결과 등을 한꺼번에 모델 컨텍스트(Context, 모델이 한 번에 처리할 수 있는 입력 데이터 영역)로 불러들입니다. 이 과정에서 신뢰도가 검증되지 않은 외부 콘텐츠가 관리자 수준의 권한이나 주요 시스템 접근 권한과 같은 공간에 노출될 수 있습니다.

보안 전문가들은 공격자들이 마치 긴급한 업무 지시나 필수적인 개발 가이드인 것처럼 문맥을 조작하여, 에이전트가 스스로 악성 소프트웨어를 설치하거나 민감한 정보를 노출하도록 유도한다고 지적합니다.

실제로 2026년 10월, 보안 기업 포에버 시큐리티(Forever Security)는 고객사의 다운로드 폴더 내부에서 코딩 에이전트에게 악성 패키지 설치를 지시하도록 조작된 AGENTS.md 파일이 발견된 사례를 보고했습니다. 당시 모니터링 시스템이 실행을 차단하여 실제 피해로 이어지지는 않았으나, 연구진은 해당 파일이 다운로드 폴더로 유입된 정확한 경로까지는 규명하지 못했습니다. 이와 유사하게 오픈소스 AI 코딩 어시스턴트인 클라인(Cline) 역시 2026년 2월 자동 이슈 검토 프로세스를 악용한 공격으로 인해 공유 캐시 내 소프트웨어 발행 토큰이 유출되고, 변조된 패키지가 외부 저장소에 게시되는 사고를 겪었습니다. 다만 클라인 측의 사후 분석 보고서에 따르면 토큰 유출 및 패키지 게시 외에 최종 사용자 데이터 유출이나 악성 코드 배포 등의 2차 피해는 발생하지 않은 것으로 확인되었습니다.

세션마다 백지상태로 시작하는 모델의 구조적 한계

이러한 공격이 특히 위험한 이유는 AI 모델이 가진 인지적 특성과 관련이 있습니다. 인간은 과거의 보안 사고나 위협을 '학습'하여 다음번 유사한 상황을 마주했을 때 경계심을 높이고 대처 방식을 개선할 수 있습니다.

하지만 시장조사기관 IDC의 바비 쿠즈마(Bobby Kuzma) 선임 연구 매니저는 모델이 매 요청(Request)마다 백지상태(Tabula Rasa, 아무런 사전 지식이 없는 초기 상태)로 세션을 시작하기 때문에, 직전의 공격 시도에서 교훈이나 방어 능력을 누적하여 학습하지 못한다고 강조합니다. 즉, 에이전트는 이전 세션에서 속았던 경험이 있더라도 다음 요청에서 동일한 유형의 위장에 다시 취약할 수 있습니다.

이에 따라 전문가들은 단순한 프롬프트 필터링이나 입력값 검증만으로는 공격을 완벽히 막아낼 수 없으며, 보안의 관점을 근본적으로 재설정해야 한다고 조언합니다.

권한 분리와 격리 통제를 통한 엔터프라이즈 보안 대책

보안 전문가들은 AI 에이전트 환경에서의 실효성 있는 방어 대책으로 소위 '지루하지만 확실한(Boring and Unsexy)' 전통적 보안 원칙들을 꼽습니다.

  • 권한 분리 및 세분화(Separation of Duties and Segmentation): 에이전트가 업무를 수행할 때 불필요하게 광범위한 시스템 접근 권한을 갖지 못하도록 폭발 반경(Blast Radius)을 최소화해야 합니다.
  • 실행 권한과 데이터의 엄격한 격리: 에이전트가 분석하는 외부 문서 내용이 곧바로 시스템 실행 명령으로 직결되지 않도록 샌드박스 환경과 중간 승인 단계를 거치도록 설계해야 합니다.
  • 포괄적인 캠페인 분석: 단일 프롬프트 주입뿐만 아니라, 공격자가 에이전트를 유도하기 위해 사전 정찰을 수행하거나 승인 권한을 가진 인간 관리자를 심리적으로 압박하는 전반적인 공격 경로(Campaign)를 함께 모니터링해야 합니다.

AI 에이전트가 기업의 자동화 자산으로 깊숙이 자리 잡을수록, 모델 자체의 지능 향상에 기여하는 것만큼이나 인프라 단계에서의 철저한 권한 통제와 사후 추적 체계 구축이 필수적인 과제로 자리 잡고 있습니다.

출처

Impact-Site-Verification: 9b3ebd10-6c45-44cf-a014-5b8c19b7b285