텐센트, AI 에이전트 메모리 전용 오픈 MoE 모델 'Hy-Memory-30B-A3B' 공개

텐센트가 범용 대화 챗봇이 아닌 인공지능 에이전트의 장기 지속 메모리(Persistent Memory) 구축 및 관리에 특화된 오픈 가중치 희소 MoE 모델 'Hy-Memory-30B-A3B'를 아파치 2.0 라이선스로 공개했습니다. 기존 자율 에이전트 워크플로우에서 전체 세션 기록을 컨텍스트 창에 무한정 누적하거나 세션 종료 시 핵심 정보를 유실하던 문제를 해결하기 위해, 기억해야 할 정보만을 엄격하게 선별해 정제하는 전용 메모리 작성자(Memory Writer) 모델을 제시한 것입니다.

에이전트 메모리 라이터를 위한 희소 MoE 아키텍처

일반적으로 다중 에이전트 환경이나 장기 연속 작업 시스템에서는 일반 대형 언어 모델(LLM)을 호출해 대화 내용 요약과 저장 여부를 판단하게 했습니다. 그러나 이러한 방식은 에이전트의 상시 판단 루프에서 과도한 연산 비용과 메모리 점유를 유발한다는 구조적 한계를 안고 있었습니다. 텐센트가 선보인 Hy-Memory-30B-A3B는 전체 30B 파라미터 중 토큰당 약 3B 파라미터만 활성화되는 희소 전문가 혼합(Sparse Mixture of Experts, MoE) 구조를 채택했습니다.

이 모델은 대화 텍스트 생성 대신 에이전트의 최신 대화와 행동 이력을 정밀하게 관찰하고, 장기 저장소에 기록할 가치가 있는 사건이나 지식을 선별합니다. 수집된 근거는 정밀한 지속 메모리 단위로 변환되며, 작업 환경이나 사용자 정보 등의 사실관계가 변경되면 기존 기억을 갱신하는 역할을 수행합니다. 또한 불필요하고 휘발성인 잡음 데이터를 필터링하여 에이전트의 장기 메모리 뱅크가 불필요하게 팽창하지 않도록 방어하는 전담 파이프라인 역할을 수행합니다.

텐센트 보고 벤치마크 점수와 실행 인프라 지원

텐센트가 공개한 자체 평가 벤치마크에 따르면, Hy-Memory-30B-A3B는 해당 메모리 평가 영역에서 55.49점을 기록했습니다. 이는 1위를 차지한 EverMemOS의 56.89점에 이어 전체 순위 상위권에 해당하는 수치입니다. 특히 텐센트 보고서에 명시된 평가 결과에 따르면 해당 특화 작업에서 Claude Opus 5(54.62점), DeepSeek V4.1 Flash(53.64점), 그리고 Qwen3.6-35B-A3B(50.37점)보다 높은 점수를 기록한 것으로 발표되었습니다.

시스템 배포 측면에서는 오픈소스 생태계와의 호환성을 적극적으로 고려했습니다. 고성능 서빙 프레임워크인 vLLM 및 SGLang 추론 엔진을 공식 지원하며, 기존 LLM 기반 애플리케이션 및 파이프라인과 매끄럽게 연동할 수 있도록 OpenAI 호환 API 인터페이스를 제공합니다. 또한 오픈 가중치 공개 직후 커뮤니티 주도로 제작된 Q4 양자화 빌드(Q4_K_M 기준)의 경우 파일 용량이 약 17GB 수준으로 보고되어, 로컬 워크스테이션 환경에서도 범용 추론 모델과 나란히 상주시키며 운영할 수 있는 실무적 경량성을 확보했습니다.

로컬 에이전트 결합 가능성과 도입 시 주의점

현업 엔지니어와 커뮤니티에서는 이번 릴리스를 두고 Qwen3.8-27B와 같은 고성능 로컬 추론 모델과 함께 배치하기에 적합한 메모리 동반자 모델이라는 평가를 내놓고 있습니다. 일반 조밀(Dense) 모델과 비교했을 때 토큰당 활성 파라미터가 약 3B 수준에 불과하므로, 에이전트의 상시 백그라운드 메모리 인덱싱과 업데이트 작업에 소모되는 하드웨어 부하를 크게 낮출 수 있기 때문입니다.

다만 실제 프로덕션 워크플로우에 도입하기 전 반드시 고려해야 할 주의사항도 명확합니다. 우선 이번에 발표된 벤치마크 지표는 텐센트가 자체적으로 측정한 수치이며, 제3자 기관이나 독립적인 오픈 커뮤니티를 통한 교차 검증은 아직 수행되지 않았습니다. 아울러 약 17GB 용량으로 언급된 Q4 양자화 빌드 역시 공식 릴리스가 아닌 커뮤니티 배포판이므로, 양자화 정밀도 손실에 따른 메모리 추출 오류율과 신뢰성 저하 여부를 면밀히 확인해야 합니다.

출처

@TeksEdge의 X 게시물