Rapid-MLX v0.16.0 출시: Mac 로컬 AI TensorFold 가속 및 의사결정 모델 지원
Apple Silicon Mac을 위한 로컬 LLM 런타임 Rapid-MLX v0.16.0이 공개되었습니다. TensorFold 프로파일 도입으로 DeepSeek V4 Flash 처리량이 최대 2.1배 향상되었으며, System One 의사결정 모델과 OpenCode 2.x 연동이 추가
#apple-silicon
TAU-HOME.COM에서 apple-silicon 태그로 묶인 글입니다.
DS4 엔진 기반 DeepSeek V4 Flash 로컬 구동: 128GB M4 Max 맥에서 284B 온디바이스 실행
살바토레 산필리포의 C·Metal 기반 경량 추론 엔진 DS4를 통해 284B 매개변수(13B 활성) DeepSeek V4 Flash 멀티모달 모델이 128GB M4 Max 맥에서 Q2 양자화 81GB 빌드로 로컬 구동되었습니다.