리퀴드 AI, 노트북에서 로컬 구동되는 MoE 에이전트 모델 'LFM2.5-24B-A2B' 공개

리퀴드 AI(Liquid AI)가 2026년 10월 13일, 일반 노트북과 엣지 디바이스 환경에서 자율 AI 에이전트 작업을 로컬로 처리할 수 있는 오픈 웨이트 모델 'LFM2.5-24B-A2B'를 공식 출시했습니다. 이번 모델은 희소 전문가 혼합(Mixture-of-Experts, MoE) 아키텍처를 적용해, 전체 240억(24B) 개 파라미터 중 입력 토큰당 약 20억(2B) 개의 파라미터만을 선별 활성화하여 제한된 로컬 하드웨어 자원에서도 빠른 추론과 도구 호출을 수행하도록 설계되었습니다.

이미지 출처: Startup Fortune / Liquid AI

LFM2.5-24B-A2B는 이전 세대 모델인 LFM2-24B-A2B의 32K 토큰 컨텍스트 한계를 131,072(131K) 토큰으로 확장하고, 어휘집 크기를 128,000 토큰으로 확대하여 대규모 코드베이스와 긴 에이전트 실행 기록을 로컬에서 유지할 수 있도록 개선되었습니다.

24B 총 파라미터 중 2B 활성화: 64개 전문가 중 4개 라우팅과 131K 컨텍스트

LFM2.5-24B-A2B의 핵심 아키텍처는 고밀도 파라미터의 표현력을 유지하면서도 실제 계산 부하를 극적으로 낮추는 MoE 라우팅 방식에 있습니다.

모델은 MoE 블록당 총 64개의 전문가(Experts) 네트워크를 보유하고 있으며, 각 토큰이 입력될 때 가장 연관성이 높은 4개의 전문가만을 선택해 연산을 위임합니다.

• 24B 총 파라미터와 2B 활성화 파라미터: 전체 모델 규모는 24B에 달하지만, 추론 시점에는 토큰당 약 2B의 연산량만 소모하여 일반 소비자용 노트북에서도 발열과 배터리 소모를 억제합니다.
• MoE 블록당 Top-4 라우팅: 64개 전문가 중 상위 4개를 동적으로 할당해 다양한 도메인과 복합 도구 조작 시퀀스에 유연하게 대응합니다.
• 131K 컨텍스트 윈도우: 131,072 토큰의 대용량 컨텍스트를 지원해, 이전 32K 규격 대비 여러 파일의 소스 코드와 에이전트 대화 히스토리를 압축 없이 문맥에 유지합니다.
• 128,000 토큰 어휘집: 확장된 토커나이저 어휘 사전을 채택하여 다국어 및 소스 코드 토큰화 효율을 높였습니다.

로컬 M5 Max·Ryzen 추론 속도와 에이전트 도구 호출 벤치마크 실측

하드웨어 실측과 벤치마크 평가에서도 온디바이스 환경에 특화된 연산 효율성이 확인되었습니다.

로컬 런타임 추론 속도 테스트에서 LFM2.5-24B-A2B는 llama.cpp Q4_K_M 양자화 기준으로 Apple M5 Max 탑재 맥북에서 초당 184 토큰, AMD Ryzen AI Max+ 395 칩셋 환경에서 초당 114 토큰의 디코딩 속도를 기록했습니다. 또한 고동시성 서버 환경인 단일 Nvidia B300 GPU 인프라에서는 최대 초당 21,000 출력 토큰을 처리할 수 있는 것으로 측정되었습니다.

실제 에이전트 도구 사용 능력을 평가하는 주요 벤치마크에서도 동급 경쟁 모델 대비 우세를 나타냈습니다.

• LiveClaw(도구 사용 종합): 48.09점을 기록하며 경쟁 모델인 Qwen3.6-35B-A3B의 38.19점 대비 9.9점 높은 성과를 달성했습니다.
• ToolSandbox(도구 실행 샌드박스): 80.71점을 기록하여 Qwen3.6-35B-A3B(75.02점)를 앞섰습니다.
• IFEval(지시 이행): 엄격한 포맷팅 및 프롬프트 제약 준수를 평가하는 IFEval에서 96.75점의 높은 지시 준수율을 기록했습니다.

이러한 실측치는 클라우드 거대 모델에 의존하지 않고도 노트북 로컬 환경에서 자율 에이전트 루프와 파일·API 제어 작업을 실시간으로 구동할 수 있음을 입증합니다.

오픈 라이선스 배포·API 요금 체계와 지식 집약 작업의 한계

LFM2.5-24B-A2B는 개발자 생태계 확장을 위해 폭넓은 배포 채널과 유연한 라이선스를 적용했습니다.

모델 가중치는 'LFM Open License v1.0' 라이선스로 공개되어 Hugging Face 저장소를 통해 일반 가중치뿐 아니라 온디바이스 배포를 위한 GGUF 포맷과 Apple 실리콘 최적화 MLX 포맷으로 동시에 제공됩니다. 자체 호스팅 대신 클라우드 엔드포인트를 활용하려는 개발자를 위해 공식 호스팅 API도 함께 제공되며, 요금은 100만 입력 토큰당 0.10달러, 100만 출력 토큰당 1.00달러로 책정되었습니다.

다만 실무 배포 시 모델의 파라미터 구조에 기인한 기술적 한계와 주의점을 고려해야 합니다.

• 검색(RAG) 및 실시간 도구 결합 필수: 토큰당 약 2B만 활성화되는 경량 MoE 특성상, 외부 참조 데이터가 없는 자체 지식 집약적 작업(knowledge-heavy tasks)에 단독으로 투입하는 것은 권장되지 않습니다. 실시간 웹 검색 도구나 내부 지식베이스 RAG 시스템과의 연계가 전제되어야 합니다.
• 원시 수학 추론 성능의 소폭 열세: MATH-500 벤치마크에서 96.04점을 기록해, Qwen3.6-35B-A3B(96.73점) 대비 소폭 낮은 점수를 나타냈습니다.

리퀴드 AI의 이번 릴리즈는 초경량 활성화 파라미터와 131K 컨텍스트, 도구 호출 최적화를 결합해, 로컬 머신 위에서 프라이빗하게 상주하는 실용적인 온디바이스 에이전트 구축 가능성을 한 단계 앞당긴 사례로 평가됩니다.

출처

• Startup Fortune: Liquid AI's LFM2.5-24B-A2B Runs Agent Tasks Locally on a Laptop