쿠버네티스처럼 자율 AI 에이전트를 조율하는 구글 오픈소스 'AX' 아키텍처 및 라이프사이클 운영 팁

2026년 10월 16일, AI 엔지니어이자 크리에이터인 라이언 하트(Ryan Hart, @thisdudelikesAI)는 X를 통해 구글이 오픈소스로 공개한 자율 AI 에이전트 오케스트레이션 도구 'AX(Agent Substrate 기반)'의 핵심 구조와 실전 운영 팁을 정리해 공유했습니다. 저자는 AX가 수많은 자율 AI 에이전트 작업을 대규모로 조율할 수 있도록 설계된 도구라며, 기존 컨테이너 애플리케이션을 관리하던 쿠버네티스(Kubernetes)의 운영 철학을 에이전트 워크로드에 직접 접목한 접근법이라고 평가했습니다.

이미지 출처: X @thisdudelikesAI

최근 단일 LLM 호출을 넘어 다중 에이전트가 독자적으로 환경과 상호작용하는 시스템이 늘어나면서, 이를 안정적으로 배포하고 격리하며 상태를 추적할 수 있는 전문 인프라의 필요성이 급부상하고 있습니다. 이번 팁은 마이크로서비스와는 전혀 다른 에이전트 워크로드의 특성을 짚어보고, 단일 YAML 명세와 친숙한 CLI 명령어를 통해 에이전트의 전체 생명주기를 제어하는 실용적인 방법론을 다룹니다.

마이크로서비스와 다른 에이전트 워크로드의 특수성

에이전트 시스템은 기존의 전통적인 웹 애플리케이션이나 마이크로서비스, 단순 배치 작업(Batch jobs)과는 본질적으로 다른 워크로드 특성을 보입니다.

• 지속적인 상태 유지(Stateful): 에이전트는 사용자의 목표를 달성할 때까지 여러 턴에 걸쳐 기억과 컨텍스트, 중간 작업 산출물을 유지해야 합니다.
• 엄격한 샌드박스 격리(Strict Isolation): 외부 코드 실행, 터미널 셸 접근, 파일 시스템 수정 등을 자율적으로 수행하므로 호스트 환경을 보호하기 위한 안전한 격리 공간이 필수적입니다.
• 쉼 없는 모델 및 도구 호출: 파운데이션 모델 추론과 MCP(Model Context Protocol) 도구, 외부 API를 지속적으로 호출하며 동작합니다.
• 비용 폭주 위험성 방지: 무한 루프나 오류 상황에 빠질 경우 감시 인프라가 부재하면 토큰 소비와 클라우드 비용이 순식간에 급증할 수 있으므로 중앙 조율 계층의 실시간 감시와 제어가 필수적입니다.

단일 YAML 선언과 4대 핵심 CLI 라이프사이클 제어

AX는 쿠버네티스의 선언형(Declarative) 인프라 관리 방식을 에이전트 런타임에 그대로 차용했습니다. 개발자가 단 하나의 YAML 파일에 에이전트의 목표 태스크(Task), 작업 공간(Workspace), 사용할 파운데이션 모델(Model)을 명시하면 시스템이 필요한 리소스를 자동으로 프로비저닝합니다.

• 자동화된 웜 스타트(Warm Start) 환경 구성: 명세가 입력되면 AX가 안전한 샌드박스를 즉시 프로비저닝하고, 지정된 Git 리포지토리와 MCP 서버, 사전 정의된 에이전트 스킬(Skills)을 연결하여 에이전트가 즉시 작업 가능한 상태로 기동시킵니다.
• ax apply: YAML 설정 파일에 선언된 에이전트 명세를 적용하여 에이전트 작업을 즉각 배포하고 실행을 시작합니다. kubectl apply와 동일한 감각으로 구동할 수 있습니다.
• ax ssh: 실행 중인 에이전트의 샌드박스 내부로 대화형 셸 접속을 지원합니다. 에이전트가 어떤 맥락을 추론하고 어떤 도구를 실행하는지 실시간으로 모니터링하고 디버깅할 수 있습니다.
• ax suspend & ax resume: 유휴 상태의 에이전트를 안전하게 일시 정지(suspend)하여 불필요한 컴퓨팅 및 토큰 소비를 방어하고, 작업이 다시 필요할 때 이전 작업 맥락이 중단된 바로 그 지점에서 정확히 재개(resume)할 수 있습니다.

주말 동안 진행할 수 있는 4단계 쿠버네티스 온보딩 실습

라이언 하트는 에이전트 인프라 환경을 직접 경험해 보고자 하는 엔지니어들을 위해 주말 동안 가볍게 시도해 볼 수 있는 4단계 실습 가이드를 제시했습니다.

1. 소규모 쿠버네티스 클러스터 구축: 로컬 또는 클라우드 인프라에 가벼운 테스트용 소규모 쿠버네티스 클러스터를 기동합니다.
2. Agent Substrate 설치: AX의 기반 실행 계층인 Agent Substrate를 클러스터 상에 설치하고 의존성을 구성합니다.
3. 공식 데모 스크립트 실행: 제공되는 샘플 데모를 구동하여 에이전트 생성, 실행, 일시 정지, 재개에 이르는 전체 라이프사이클을 단계별로 검증합니다.
4. 실제 리포지토리 기반의 목표 부여: 실제 개발 리포지토리에 에이전트를 연결하고 구체적인 실전 목표를 지정해 동작을 확인합니다.

오픈소스 라이선스와 초기 개발 단계의 유의사항

AX 프로젝트는 이미 1만 3,500개 이상의 스타(Stars)를 획득하며 개발자 생태계의 높은 관심을 받고 있습니다. 라이선스는 아파치 2.0(Apache 2.0)으로 완전 공개되어 있어 누구나 영구적으로 무료 사용 및 확장이 가능합니다.

다만 구글이 공식적으로 밝힌 바와 같이, 현재 프로젝트는 초기 개발 단계에 머물러 있어 정식 안정화 릴리즈(Stable Release)가 나오기 전까지는 주요 인터페이스와 API에 변경(Breaking changes)이 발생할 수 있음을 염두에 두어야 합니다. 프로덕션 환경에 즉시 전면 도입하기보다는 향후 1,000개 이상의 자율 에이전트를 안정적으로 조율하기 위한 기초 인프라 설계 역량을 선제적으로 확보하는 학습용 워크플로우로 접근하는 것이 권장됩니다.

원문 출처

• Ryan Hart (@thisdudelikesAI) 공식 X 게시글: Google AX Agent Orchestration Guide