앤트로픽 상시 가동 에이전트 설계 핵심 5가지: 24시간 루프 대신 수면-기상 아키텍처
앤트로픽 엔지니어링 가이드 기반 상시 가동 AI 에이전트 설계 패턴. 이벤트 수신함, 타이머 분리, 린 메모리 및 드리밍, 비인가 권한 제어, 아웃박스 큐 구조 정리.
인공지능 에이전트를 개발할 때 흔히 저지르는 가장 큰 착각은 '상시 가동(always-on)' 시스템이 실제로 24시간 내내 프로세스를 돌려야 한다고 믿는 점입니다. 앤트로픽(Anthropic)이 공개한 엔지니어링 가이드에 따르면, 진정한 상시 가동 에이전트는 하루 대부분의 시간을 잠들어 있는 상태로 보내며 이벤트가 발생할 때만 깨어나 짧게 작업을 끝내고 다시 수면 상태로 복귀합니다. 개발자 테콘 번즈(@TekonBurns)가 정리한 핵심 아키텍처 5가지와 실무 구현 포인트를 살펴봅니다.

이미지 출처: TechCrunch 쨌 CC BY 2.0 쨌 https://creativecommons.org/licenses/by/2.0 쨌 https://commons.wikimedia.org/wiki/File:Dario_Amodei_at_TechCrunch_Disrupt_2023_01.jpg
사용자 관점에서 에이전트는 언제든 즉각 응답하는 '상시 대기' 소프트웨어여야 하지만, 인프라 관점에서 모델을 쉬지 않고 무한 루프로 회전시키는 것은 비용과 안정성 양면에서 치명적인 실수입니다. 끊임없는 폴링(polling)은 무의미한 토큰 낭비와 문맥 오염을 부릅니다. 핵심은 24시간 가동이 아니라 '필요할 때 깨어나 이전 작업 상태를 깨끗하게 이어받는 것(clean state handoff)'입니다.
1. 이벤트 수신함(Event Inbox): 웹훅과 작업자 분리
외부 웹 서비스에서 이벤트가 들어올 때 에이전트 프로세스가 이를 직접 받아 즉시 실행하도록 두면 동시성 충돌과 누락이 발생합니다.
- 데이터베이스 버퍼링: 웹훅(Webhook) 요청과 에이전트 사이에 데이터베이스 테이블을 둡니다. 외부 서버에는 즉시 수신 완료 응답(200 OK)을 반환하고, 실제 작업은 큐에 차례대로 쌓습니다.
- 사용자당 단일 워커 제한: 동일한 사용자에 대해서는 한 번에 하나의 활성 워커(worker)만 실행되도록 잠금(lock)이나 순차 실행을 보장합니다. 여러 요청이 동시에 들어와 에이전트끼리 상태를 덮어쓰는 레이스 컨디션을 방지합니다.
- 단시간 메시지 일괄 처리: 사용자가 짧은 간격으로 연달아 메시지를 보내는 경우 이를 하나로 묶어(batch) 한 번의 실행 턴으로 처리합니다.
이 구조는 웹훅 타임아웃을 방지하고 불필요한 모델 호출 횟수를 줄입니다.
2. 타이머 분리(Timers): 수신함과 별도의 스케줄러 운용
에이전트가 "내일 오전 9시에 리마인더를 보내라"거나 "1시간 뒤에 작업 결과를 재확인하라"는 지시를 받았을 때 이를 내부 메모리나 루프 타이머로 유지하면 시스템이 재부팅되는 순간 작업이 증발합니다.
- 독립 테이블 분리: 일회성 후속 작업(one-off follow-up)과 반복 스케줄(recurring schedule)을 일반 이벤트 수신함과 분리된 별도 데이터베이스 테이블에 저장합니다.
- 백그라운드 폴러(Background Poller): 경량 백그라운드 프로세스가 주기적으로 타이머 테이블을 조회하다가, 실행 시각이 도래한 항목만 이벤트 수신함 테이블로 넘겨줍니다.
에이전트 자체는 시계나 캘린더를 지속해서 감시하지 않고, 이벤트 수신함에 들어온 알림만 처리하면 되므로 추론 자원을 쓰지 않고도 정밀한 시간 제어가 가능해집니다.
3. 린 메모리(Lean Memory)와 드리밍(Dreaming): 컨텍스트 다이어트
수면-기상 주기에서 가장 큰 운영비용을 유발하는 요인은 콜드 스타트(cold start) 시점의 문맥 복원 비용입니다. 에이전트가 깨어날 때마다 과거의 모든 대화와 파일 전체를 컨텍스트 윈도우에 집어넣으면 토큰 요금이 기하급수적으로 폭증합니다.
- 필수 데이터만 영구 저장: 외부 시스템에서 언제든 다시 조회할 수 있는 데이터는 저장하지 않습니다. 오직 사용자 맞춤 지침, 사용자 메모, 과거 대화 요약, 현재 작업 진행 상태처럼 재조회가 불가능한 정보만 남깁니다.
- 경량 인덱스 우선 로드: 에이전트가 기상할 때는 전체 문서가 아니라 요약된 작은 인덱스만 먼저 로드합니다. 구체적인 세부 정보는 작업 도중 필요할 때만 도구 호출을 통해 부분적으로 읽어 들입니다.
- 주기적 드리밍(Dreaming) 패스: 유휴 시간이나 야간에 백그라운드로 '드리밍' 과정을 수행합니다. 낡고 모순된 과거 사실을 정리하고, 중복 데이터를 압축해 메모리의 품질과 순도를 유지합니다.
4. 무인 실행 권한 제어(Unattended Permissions): 프록시와 지연 도구 호출
사용자가 지켜보지 않는 무인(unattended) 상태에서 에이전트가 작업을 수행할 때는 보안과 안전장치가 핵심 과제가 됩니다.
- 원시 API 키 격리: 에이전트가 격리 실행되는 샌드박스 내부에는 원시 API 키를 절대 직접 넣지 않습니다. 모든 외부 API 호출은 외부 프록시를 통과하도록 만들고, 프록시가 권한 검증을 마친 뒤 자격 증명을 주입합니다.
- 지연 도구 호출(Deferred Tool Calls): 금융 거래나 대량 데이터 삭제, 외부 이메일 발송처럼 위험도가 높은 행동은 즉시 실행하지 않고 승인 대기 상태로 전환합니다. 이때 워커 프로세스를 멈춰 세워두지 않고 상태를 저장한 뒤 수면 상태로 빠져나오며, 나중에 사람의 승인이 떨어지면 그때 다시 깨어나 잔여 작업을 이어갑니다.
5. 발신함(Outbox): 발송 속도 조절과 멱등성 보장
에이전트가 생성한 결과물을 사용자에게 전달할 때도 중간 완충 지대가 필수적입니다.
- 야간 알림 방지 및 알림 속도 제어: 에이전트가 새벽 3시에 분석을 완료했다고 해서 즉시 사용자 메신저나 이메일로 쏟아내서는 안 됩니다. 발신함(Outbox) 큐를 통해 알림 발송 속도를 조절하고 업무 시간대까지 대기하도록 제어합니다.
- 멱등성 키(Idempotency Key): 네트워크 순단이나 워커 재시도로 인해 동일한 메일이나 메시지가 두 번 발송되는 사고를 방지하기 위해 각 발신 이벤트에 고유한 멱등성 키를 발급합니다. 이미 처리된 키는 중복 전송을 건너뜁니다.
상시 가동 에이전트의 성패는 모델 자체의 지능보다 '수면과 기상 사이의 상태를 얼마나 군더더기 없이 주고받느냐'에 달려 있습니다.
원문 출처
- Tekon Burns (@TekonBurns) 원문 게시글: https://x.com/TekonBurns/status/2121328737174388847