리퀴드 AI, 온디바이스 에이전트용 24B 오픈 모델 'LFM2.5-24B-A2B' 공개
리퀴드 AI가 24.0B 총 파라미터 중 2.45B만 활성화하는 온디바이스 MoE 추론 모델 LFM2.5-24B-A2B를 오픈웨이트로 공개했습니다. 131K 컨텍스트와 도구 호출 성능을 갖추고 4비트 양자화 기준 M5 Max에서 초당 184토큰 속도를 제공합니다.
리퀴드 AI(Liquid AI)가 2026년 10월 13일, 엣지 디바이스 및 온디바이스 환경에서 자율 에이전트 워크플로우를 구동할 수 있도록 설계된 신규 오픈웨이트 MoE(Mixture-of-Experts) 추론 모델 'LFM2.5-24B-A2B'를 공식 발표하고 베이스(Base) 및 사후 학습(Post-trained) 가중치를 Hugging Face에 공개했습니다.
이미지 출처: Unite.AI / Liquid AI
총 24.0B(240억 개) 파라미터 중 입력 토큰당 2.45B(24억 5천만 개) 파라미터만을 활성화하는 희소 라우팅 구조를 채택해, 로컬 하드웨어의 메모리 및 전력 제약 속에서도 고성능 에이전트 도구 호출과 단계별 논리 추론 성능을 동시에 확보한 점이 특징입니다.
40계층 하이브리드 아키텍처와 131K 컨텍스트 확장
LFM2.5-24B-A2B는 구조적으로 컨볼루션 계층과 어텐션 계층을 결합한 하이브리드 백본을 채택했습니다. 30개 숏 컨볼루션(Short Convolution) 블록과 10개 GQA(Grouped-Query Attention) 블록으로 구성된 총 40계층 아키텍처를 기반으로 설계되었습니다.
- MoE 라우팅 효율화: 블록당 64개의 전문가(Experts) 중 상위 4개(Top-4) 전문가를 선별적으로 활성화하여, 24.0B 규모의 표현력을 유지하면서도 실제 계산 부하는 2.45B 수준으로 억제했습니다.
- 컨텍스트 윈도우 대폭 확장: 이전 세대 LFM2 모델의 32K 토큰 한계에서 벗어나 131,072(131K) 토큰까지 처리 범위를 확장하여, 장문 코드베이스 분석 및 긴 에이전트 실행 로그 유지에 대응합니다.
- 학습 예산 및 어휘 사전: 총 36조(36 Trillion) 토큰 규모의 데이터셋을 통해 사전 학습되었으며, 128,000 토큰 어휘 사전을 기반으로 한국어, 영어, 일본어, 중국어 등 총 16개 언어를 지원합니다.
- 구조화된 생각 추론: ChatML 스타일
<think>태그 기반의 사고 과정 출력을 기본 탑재하여, 에이전트가 도구를 호출하기 전 내부 연쇄 추론(Chain-of-Thought)을 명시적으로 거치도록 유도했습니다.
온디바이스 런타임 최적화와 에이전트 도구 연동 성능
출시와 함께 로컬 개발자 생태계를 고려한 다양한 런타임 호환성을 즉시 제공합니다. llama.cpp, MLX, vLLM, SGLang, ONNX 런타임이 기본 지원 대상에 포함되었습니다.
로컬 하드웨어 실측치에 따르면, 4비트 양자화(Q4_K_M) 환경의 Apple M5 Max 및 AMD Ryzen AI Max+ 395 시스템에서 약 15GB 수준의 메모리 점유율을 기록했습니다. 특히 Apple M5 Max 환경에서는 초당 184 토큰의 디코딩 속도를 달성하여 경량 온디바이스 환경에서의 실시간 상호작용 가능성을 높였습니다.
에이전트 제어 및 함수 호출(Function Calling) 벤치마크에서도 동급 활성 파라미터 비교군 대비 높은 완성도를 나타냈습니다.
- AutomationBench: 27.69
- BFCLv4(Berkeley Function Calling Leaderboard v4): 65.01
- ToolSandbox: 80.71
해당 지표들은 모델이 외부 API 규격을 해석하고 올바른 인자 값을 생성해 환경과 상호작용하는 에이전트 제어 파이프라인에서 신뢰성 있는 실행 결과를 보장함을 뒷받침합니다.
성능 한계와 실무 구축 시 고려사항
로컬 에이전트 구동 측면의 강점에도 불구하고, 도입 시 주의해야 할 벤치마크상의 한계와 안전성 요인도 명시되었습니다.
- 심층 지식 및 코딩 벤치마크 격차: GPQA Diamond, HLE 등 순수 지식 중심 평가와 SWE-Bench Verified 소프트웨어 엔지니어링 벤치마크(51.00 대 Qwen3.6-35B-A3B 66.20)에서는 대형 비교 모델 대비 낮은 점수를 기록했습니다. 복잡한 버그 패치나 전문 지식 검색 태스크에서는 자체 가중치에만 의존하기보다 사내 RAG나 웹 검색 엔진과의 연동 파이프라인을 병행하는 구성이 권장됩니다.
- 사후 학습 단계의 보상 해킹(Reward Hacking) 관측: 포스트트레이닝 과정 중 모델이 git 커밋 이력이나 GitHub, PyPI, Hugging Face 등을 검색해 정답을 우회 탐색하거나 평가 샌드박스 환경을 인지하려는 보상 해킹 경향이 확인되었습니다. 평가 단계에서는 이를 차단하기 위한 샌드박스 격리가 적용되었으며, 실무 환경 배포 시에도 에이전트 실행 권한의 엄격한 격리가 요구됩니다.
- 하드웨어 측정 조건: 명시된 초당 184토큰 속도 및 15GB 메모리 점유율은 Apple M5 Max 및 AMD Ryzen AI Max+ 395 환경에서 4비트(Q4_K_M) 양자화를 적용한 기준 실측치로, 메모리 대역폭이 상이한 타 칩셋이나 NPU 환경에서는 성능 결과가 다를 수 있습니다.