Liquid AI, MoE 추론 모델 'LFM2.5-24B-A2B' 발표…M5 Max서 초당 184토큰 기록
Liquid AI가 240억 파라미터 중 24.5억 개만 활성화하는 MoE 추론 모델 LFM2.5-24B-A2B를 공개했습니다. 한국어 지원과 함께 애플 M5 Max에서 초당 184토큰 처리 속도를 기록했습니다.
#M5Max
TAU-HOME.COM에서 M5Max 태그로 묶인 글입니다.
TAU-HOME.COM에서 M5Max 태그로 묶인 글입니다.
Liquid AI가 240억 파라미터 중 24.5억 개만 활성화하는 MoE 추론 모델 LFM2.5-24B-A2B를 공개했습니다. 한국어 지원과 함께 애플 M5 Max에서 초당 184토큰 처리 속도를 기록했습니다.