텐센트, 100% 로컬 SQLite 기반 AI 에이전트 장기 기억 도구 'TencentDB Agent Memory' 오픈소스 공개

텐센트(Tencent)가 외부 클라우드 벡터 데이터베이스 의존성 없이 로컬 환경에서 완전히 구동되는 AI 에이전트 장기 기억 프레임워크 TencentDB Agent Memory를 공식 오픈소스로 공개했습니다. Pinecone이나 상용 클라우드 API 호출 없이, 단일 SQLite 데이터베이스 파일과 구조화된 시맨틱 피라미드를 결합하여 에이전트의 세션 간 컨텍스트 손실을 방지하고 장기 기억을 보존하는 경량 솔루션을 제시합니다.

이미지 출처: @Divyyanshishrma via X

기존 AI 에이전트 프레임워크 대다수는 이전 세션의 대화 기록 전체를 불투명한 임베딩 벡터로 압축해 벡터 DB에 적재하는 방식을 취해왔습니다. 그러나 이러한 방식은 검색 실패나 잘못된 회상(Recall)이 발생했을 때 원인을 추적하기 어렵고, 세션이 길어질수록 컨텍스트 토큰 소모량이 급증하는 한계가 있었습니다. TencentDB Agent Memory는 손실 압축 대신 사람이 직접 열어보고 수정할 수 있는 마크다운 계층 구조와 Mermaid 그래프 기반의 단기 상태 추적을 결합하여 이 문제를 해결합니다.

불투명한 벡터 압축을 대체하는 4계층 시맨틱 피라미드(L0~L3)

TencentDB Agent Memory의 핵심 아키텍처는 정보를 4단계 시맨틱 피라미드로 체계화하여 계층별로 관리하는 데 있습니다.

• L0 대화 (Conversation): 에이전트와 사용자 사이에 오간 가공되지 않은 원시 대화 세션 기록입니다.
• L1 원자 (Atom): 대화에서 도출된 단일 사실, 키-값 쌍, 엔티티 단위의 파편화된 핵심 정보를 추출합니다.
• L2 시나리오 (Scenario): 원자 정보들을 바탕으로 특정 작업 워크플로나 문맥적 상황 단위로 묶어낸 시나리오 지식입니다.
• L3 페르소나 (Persona): 사용자의 지속적인 성향, 고유 작업 스타일, 장기 가이드라인을 집약한 최상위 프로필 계층입니다.

이 구조의 핵심적인 강점은 정보의 가시성과 투명성입니다. 상위 계층의 데이터는 바이너리 벡터 덩어리가 아니라 사람이 읽을 수 있는 평문 마크다운(Markdown) 문서로 보존됩니다. 따라서 에이전트가 잘못된 기억을 바탕으로 동작할 때 개발자나 사용자가 해당 마크다운 파일을 직접 열어보고 사실관계를 수정하거나 불필요한 규칙을 편집할 수 있습니다.

컨텍스트 최적화: Mermaid 그래프 인코딩과 node_id 디스크 역추적

에이전트의 실시간 추론 비용과 컨텍스트 윈도우를 아끼기 위한 상태 분리 메커니즘도 도입되었습니다.

• 단기 상태의 Mermaid 그래프 인코딩: 에이전트의 컨텍스트 내부에는 복잡한 텍스트 히스토리 대신 현재 작업 진행 상태를 Mermaid 그래프 형태로 압축 인코딩하여 주입합니다. 이를 통해 모델은 최소한의 토큰으로 현재 상황과 작업 단계를 파악할 수 있습니다.
• 상세 도구 로그의 디스크 오프로드: 에이전트가 실행한 도구(Tool) 호출 및 상세 실행 결과는 컨텍스트 윈도우에 쌓아두지 않고 로컬 디스크 파일로 즉시 격리 저장합니다.
• node_id 기반 역추적(Drill-back): 에이전트가 과거 실행 근거를 검증하거나 상세 데이터가 필요한 순간에는 Mermaid 그래프 노드에 연결된 node_id를 참조하여 디스크 상의 원본 원시 로그를 정확하게 역추적해 불러옵니다.

실측 성능 지표와 프로덕션 운영 시 고려사항

공개된 벤치마크 및 지표에 따르면, TencentDB Agent Memory는 기존 방식 대비 토큰 소모량을 61% 절감했으며, 페르소나 기억 평가 지표인 PersonaMem 정확도를 기존 48%에서 76%로 향상시켰습니다. 외부 클라우드 벡터 API 호출 비용이 전혀 들지 않고 순수 SQLite(sqlite-vec) 기반으로 구동되어 독립적인 로컬 환경 구축이 가능합니다.

다만 소셜 미디어를 중심으로 제기된 "클라우드 벡터 DB 업계의 완전한 종말"과 같은 바이럴성 주장은 기술적 실상과 다소 거리가 있습니다.

• 로컬 벡터 확장의 병행: 이 도구는 벡터 검색을 완전히 배제한 것이 아니라, 기본 베이스 계층에서 로컬 SQLite의 sqlite-vec 확장을 결합해 동작합니다.
• 요약 환각(Hallucination) 위험: 상위 L2 시나리오와 L3 페르소나를 도출하는 과정에서 LLM의 요약 능력을 활용하므로, 초기 계층화 단계에서 잘못된 요약이나 환각이 주입될 가능성이 상존합니다.
• 상시 목표 주입 체계 부재: 장기적 목표(Goal)를 지속적으로 에이전트 행동 루프에 강제 주입하는 메커니즘은 별도로 구현되어야 합니다.
• 라이브러리 성격: 이름에 'TencentDB'가 포함되어 있으나 텐센트 클라우드의 독점 상용 데이터베이스 상품이 아닌, 로컬에서 독립적으로 실행할 수 있는 오픈소스 라이브러리입니다.

외부 클라우드 종속성 없이 자체 인프라나 로컬 개발 환경에서 비용 효율적인 AI 에이전트 장기 메모리를 구축하려는 개발자에게 유용한 레퍼런스 도구입니다.

출처

• GitHub 저장소: TencentCloud/TencentDB-Agent-Memory
• Divyanshi (@Divyyanshishrma via X): 소셜 공개 소식 및 벤치마크 분석