메타, 8,160억 파라미터 오픈 가중치 AI 'Muse Spark Open' 공개... Mac Studio 로컬 구동 지원
메타가 8,160억 총 파라미터(활성 420억)와 100만 토큰 컨텍스트를 갖춘 오픈 가중치 모델 'Muse Spark Open'을 공개했습니다. Apple MLX를 통해 M5 Ultra Mac Studio 2~4대를 묶어 로컬 구동할 수 있습니다.
#MLX
TAU-HOME.COM에서 MLX 태그로 묶인 글입니다.
Liquid AI, MoE 추론 모델 'LFM2.5-24B-A2B' 발표…M5 Max서 초당 184토큰 기록
Liquid AI가 240억 파라미터 중 24.5억 개만 활성화하는 MoE 추론 모델 LFM2.5-24B-A2B를 공개했습니다. 한국어 지원과 함께 애플 M5 Max에서 초당 184토큰 처리 속도를 기록했습니다.
Rapid-MLX v0.16.0 출시: Mac 로컬 AI TensorFold 가속 및 의사결정 모델 지원
Apple Silicon Mac을 위한 로컬 LLM 런타임 Rapid-MLX v0.16.0이 공개되었습니다. TensorFold 프로파일 도입으로 DeepSeek V4 Flash 처리량이 최대 2.1배 향상되었으며, System One 의사결정 모델과 OpenCode 2.x 연동이 추가
Apple Silicon Mac을 위한 MiniMax H3 비디오 생성 도구 'TensorFold' 확장 공개
MLX 기반 Apple Silicon 추론 런타임 TensorFold에 MiniMax H3 비디오 생성 파이프라인이 접목되었습니다. Mac 로컬 환경에서 사전 빌드 이미지와 텍스트-투-비디오 실행을 지원하며 이미지-투-비디오 확장이 진행 중입니다.
Rapid-MLX v0.15.4: Apple Silicon용 Qwen3.8-27B TensorFold 및 DFlash2 투기적 디코딩 지원
Apple Silicon 로컬 LLM 추론 엔진 Rapid-MLX v0.15.4가 Qwen3.8-27B 및 GLM-5.3 Flash를 위한 실험적 TensorFold 프로파일과 DFlash2 투기적 디코딩 가속을 지원합니다.
Edge0: 35B 모델을 1~2.5GB 메모리로 온디바이스 구동하는 오픈소스 프레임워크
클라우드나 데스크톱 GPU 없이 Apple Silicon 기기에서 피크 메모리 1~2.5GB 수준으로 35B 매개변수 모델을 구동할 수 있도록 설계된 오픈소스 온디바이스 AI 프레임워크 Edge0을 살펴봅니다.