NVIDIA NVLabs, AI 에이전트 하네스 최적화 레이어 'SoL-Pi' 오픈소스 공개
NVIDIA NVLabs가 Pi 하네스 기반의 에이전트 효율화 레이어 'SoL-Pi'를 MIT 라이선스로 공개했습니다. Auto-Research 루프로 도출한 4대 최적화 기법을 통해 성능 저하 없이 토큰 소모를 최대 49% 절감합니다.
#NVIDIA
TAU HOME에서 NVIDIA 태그로 묶인 글입니다.
16GB 엔비디아 GPU에서 Qwen3.8-27B EXL3 구동하는 원클릭 서빙 키트
MiaAI-Lab이 단일 16GB VRAM 엔비디아 GPU에서 Qwen3.8-27B 모델을 turboderp의 EXL3 양자화로 원클릭 설치하고 로컬 OpenAI 호환 API로 서빙하는 오픈소스 툴킷을 공개했습니다.