DS4 엔진 기반 DeepSeek V4 Flash 로컬 구동: 128GB M4 Max 맥에서 284B 온디바이스 실행
살바토레 산필리포의 C·Metal 기반 경량 추론 엔진 DS4를 통해 284B 매개변수(13B 활성) DeepSeek V4 Flash 멀티모달 모델이 128GB M4 Max 맥에서 Q2 양자화 81GB 빌드로 로컬 구동되었습니다.
#Local-LLM
TAU HOME에서 Local-LLM 태그로 묶인 글입니다.
TAU HOME에서 Local-LLM 태그로 묶인 글입니다.
살바토레 산필리포의 C·Metal 기반 경량 추론 엔진 DS4를 통해 284B 매개변수(13B 활성) DeepSeek V4 Flash 멀티모달 모델이 128GB M4 Max 맥에서 Q2 양자화 81GB 빌드로 로컬 구동되었습니다.