카카오, AI 에이전트 전 주기 윤리 프레임워크 'SPIRIT' 및 실행 체계 'NORMA' 발표

카카오가 2026년 10월 15일, 지난 10월 13일 용인 카카오 AI 캠퍼스에서 열린 'if(kakao)26' 개발자 컨퍼런스 발표 내용을 바탕으로 자율형 AI 에이전트 시대를 대비한 신규 윤리 원칙 'SPIRIT'과 실행 체계 'NORMA'를 공식 발표했습니다.

이미지 출처: Digital Today / Kakao

이번 발표는 단순 질의응답을 넘어 사용자 위임 작업을 자율적으로 수행하는 AI 에이전트가 확산됨에 따라, 서비스 기획부터 설계, 배포, 운영까지 전 주기에 걸쳐 체계적인 윤리 거버넌스와 통제 기준을 정립하기 위해 마련되었습니다.

자율형 AI 에이전트에 대응하는 6대 윤리 원칙 'SPIRIT'

카카오는 자율형 AI 에이전트의 확산 흐름에 맞추어 기존 윤리 기준을 고도화한 6대 핵심 원칙 'SPIRIT'을 수립했습니다. 'SPIRIT'은 에이전트의 자율적 판단과 실행 과정에서 발생할 수 있는 위험을 선제적으로 통제하고 신뢰성을 담보하기 위한 여섯 가지 축으로 구성됩니다.

• 안전(Safety): 에이전트의 동작과 산출물이 사용자와 사회에 신체적·정신적·환경적 위해를 초래하지 않도록 안전성을 검증합니다.
• 프라이버시(Privacy): 에이전트가 처리하는 개인정보 및 민감 데이터의 전 주기에서 프라이버시 침해를 방지하고 최소 수집 원칙을 준수합니다.
• 포용(Inclusion): 편향과 차별 요소를 완화하여 다양한 배경을 가진 사용자에게 공정하고 포용적인 서비스를 제공합니다.
• 책임(Responsibility): 에이전트의 판단과 행동에 대한 설명 가능성을 확보하고 개발 및 운영 조직의 책임을 명확히 합니다.
• 사용자 주도권(User Agency): 자율 동작 환경에서도 최종 결정과 개입 권한이 항상 사용자에게 있음을 보장합니다.
• 투명성 및 신뢰성(Transparency and Trustworthiness): AI 에이전트의 한계, 작동 방식, 데이터 출처를 투명하게 공개하여 시스템 신뢰를 구축합니다.

5대 위험 관리 영역과 3단계 실행 체계 'NORMA'

카카오는 원칙 선언을 넘어 현업 서비스 개발과 운영에 즉각 적용 가능한 실행 체계인 'NORMA'를 함께 제시했습니다.

자율 에이전트 환경에서 나타날 수 있는 위험 관리 영역을 5개 부문으로 구조화하고, 이에 대응하는 인간 감독(Human Oversight) 및 비상 제어(Emergency Controls) 방안을 연계했습니다.

• 통제 주도권(Agency): 에이전트가 사용자의 위임 범위를 벗어나 자의적으로 판단하지 않도록 인간 감독과 비상 중단 수단을 마련합니다.
• 목표(Objective): 시스템에 부여된 지시와 최종 목표가 윤리 가이드라인에 부합하는지 사전에 검토합니다.
• 권한(Authority): 에이전트에 위임되는 실행 권한 범위와 작업 허용 한계를 엄격히 설정합니다.
• 참조 자원(Reference Resources): 추론과 작업 실행에 참조되는 외부 데이터 및 도구의 신뢰성과 무결성을 점검합니다.
• 상호작용(Interaction): 사용자와의 소통 과정에서 발생할 수 있는 기만, 조작, 유해 정보 전달을 차단합니다.

이를 실무에서 검증하기 위한 'AI 윤리 실행 체크리스트'는 3단계 절차로 운영됩니다.

1. 1단계: 서비스 특성 파악: 구현하려는 에이전트 서비스의 도메인, 자율성 수준, 취급 데이터 범위를 분석합니다.
2. 2단계: 사전 위험 스크리닝: 5대 위험 영역을 기준으로 잠재적 오남용 및 안전 결함을 조기에 식별합니다.
3. 3단계: 통제 항목 점검 및 확정: 인간 감독 수준과 비상 제어 수단 등 필수 통제 조치를 최종 점검하고 확정합니다.

OECD·유니세프 5Cs 기반 아동 보호와 향후 서비스 적용 과제

이번 체크리스트에는 아동 및 청소년 보호를 위한 특화 평가 기준이 함께 반영되었습니다. 카카오는 OECD와 유니세프(UNICEF)의 '5Cs' 아동 온라인 위험 분류 체계를 참고하여, AI 에이전트 환경에서 미성년자가 맞닥뜨릴 수 있는 유해 요소를 점검 항목에 포함했습니다.

카카오는 해당 AI 윤리 실행 체크리스트를 2026년 연내 실제 서비스에 적용하기 시작할 예정입니다. 다만 각 서비스별 세부 적용 일정과 조직별 이행 절차는 현재 조율 중인 단계입니다.

또한 자율 에이전트의 비상 제어와 인간 감독이 시스템 런타임에서 어떤 인터럽트 프로토콜과 기술적 메커니즘으로 강제되는지에 대해서는, 향후 실제 서비스 배포 과정에서 추가 공개되는 기술 명세를 통해 구체적인 효용을 검증할 필요가 있습니다.

출처

• 디지털투데이(Digital Today): Kakao sets AI agent ethics framework from planning to operations