단일 DGX Spark에서 Qwen3.8-Flash-Next NVFP4 구동 실측: 1M 컨텍스트와 FP8 KV 캐시
128GB 통합 메모리 단일 DGX Spark에서 Qwen3.8-Flash-Next NVFP4 구동 실측이 공개되었습니다. FP8 KV 캐시로 1M 컨텍스트와 4개 스트림 동시 서빙을 지원합니다.
TAU-HOME.COM에서 NVFP4 태그로 묶인 글입니다.
128GB 통합 메모리 단일 DGX Spark에서 Qwen3.8-Flash-Next NVFP4 구동 실측이 공개되었습니다. FP8 KV 캐시로 1M 컨텍스트와 4개 스트림 동시 서빙을 지원합니다.
Blackfrost AI가 보안 연구 모델 CYBER-FROST 3.8의 BF16, FP8, EXL3, NVFP4 배포판에 공식 실행 하네스를 추가하고 GitHub에 오픈소스로 공개했습니다. Spark TensorFold 호환 및 범용 모델 지원 특징을 짚어봅니다.
DiffusionGemma 26B-A4B 모델에서 JSON 토큰 생성 대신 고정 캔버스에 결정 슬롯만 열어두고 확률을 즉시 판독해 Jev 호환 로컬 의사결정 API를 구축하는 vLLM 패치 기반 최적화 팁.
Impact-Site-Verification: 9b3ebd10-6c45-44cf-a014-5b8c19b7b285