Liquid AI, MoE 추론 모델 'LFM2.5-24B-A2B' 발표…M5 Max서 초당 184토큰 기록
Liquid AI가 240억 파라미터 중 24.5억 개만 활성화하는 MoE 추론 모델 LFM2.5-24B-A2B를 공개했습니다. 한국어 지원과 함께 애플 M5 Max에서 초당 184토큰 처리 속도를 기록했습니다.
TAU-HOME.COM에서 AppleSilicon 태그로 묶인 글입니다.
Liquid AI가 240억 파라미터 중 24.5억 개만 활성화하는 MoE 추론 모델 LFM2.5-24B-A2B를 공개했습니다. 한국어 지원과 함께 애플 M5 Max에서 초당 184토큰 처리 속도를 기록했습니다.
MLX 기반 Apple Silicon 추론 런타임 TensorFold에 MiniMax H3 비디오 생성 파이프라인이 접목되었습니다. Mac 로컬 환경에서 사전 빌드 이미지와 텍스트-투-비디오 실행을 지원하며 이미지-투-비디오 확장이 진행 중입니다.
Apple Silicon 로컬 LLM 추론 엔진 Rapid-MLX v0.15.4가 Qwen3.8-27B 및 GLM-5.3 Flash를 위한 실험적 TensorFold 프로파일과 DFlash2 투기적 디코딩 가속을 지원합니다.
클라우드나 데스크톱 GPU 없이 Apple Silicon 기기에서 피크 메모리 1~2.5GB 수준으로 35B 매개변수 모델을 구동할 수 있도록 설계된 오픈소스 온디바이스 AI 프레임워크 Edge0을 살펴봅니다.
Apple Virtualization.framework 기반으로 실제 iOS 펌웨어(IPSW)를 가상 머신으로 구동하는 vphone-cli가 공개되었습니다. DFU 복원부터 SSH/VNC 제어, AI 연동 인터페이스까지 단일 CLI 파이프라인으로 지원합니다.
Impact-Site-Verification: 9b3ebd10-6c45-44cf-a014-5b8c19b7b285