RTX 4090 한 장으로 125B MoE 돌리기: Qwen3.8-Flash-Next 하이브리드 추론 보고
125B MoE Qwen3.8-Flash-Next를 RTX 4090 한 장과 시스템 RAM 오프로드로 구동했다는 커뮤니티 보고의 핵심 조건과 주의점을 검증했습니다.
#hybrid-inference
TAU HOME에서 hybrid-inference 태그로 묶인 글입니다.
TAU HOME에서 hybrid-inference 태그로 묶인 글입니다.
125B MoE Qwen3.8-Flash-Next를 RTX 4090 한 장과 시스템 RAM 오프로드로 구동했다는 커뮤니티 보고의 핵심 조건과 주의점을 검증했습니다.