단일 DGX Spark에서 Qwen3.8-Flash-Next NVFP4 구동 실측: 1M 컨텍스트와 FP8 KV 캐시
128GB 통합 메모리 단일 DGX Spark에서 Qwen3.8-Flash-Next NVFP4 구동 실측이 공개되었습니다. FP8 KV 캐시로 1M 컨텍스트와 4개 스트림 동시 서빙을 지원합니다.
#FP8 KV
TAU-HOME.COM에서 FP8 KV 태그로 묶인 글입니다.
TAU-HOME.COM에서 FP8 KV 태그로 묶인 글입니다.
128GB 통합 메모리 단일 DGX Spark에서 Qwen3.8-Flash-Next NVFP4 구동 실측이 공개되었습니다. FP8 KV 캐시로 1M 컨텍스트와 4개 스트림 동시 서빙을 지원합니다.