8GB 미만 RAM에서 CPU·GPU 구동: PrismML 3치 양자화 기반 의사결정 모델 'Bev' 공개
AI 엔지니어 Reza Sayar가 PrismML의 3치 Bonsai 압축을 적용해 8GB 미만 RAM 환경에서 CPU와 GPU로 구동되는 초경량 의사결정 모델 'Bev'를 공개했습니다. 오픈소스 가중치와 코드가 배포됩니다.
TAU-HOME.COM에서 PrismML 태그로 묶인 글입니다.
AI 엔지니어 Reza Sayar가 PrismML의 3치 Bonsai 압축을 적용해 8GB 미만 RAM 환경에서 CPU와 GPU로 구동되는 초경량 의사결정 모델 'Bev'를 공개했습니다. 오픈소스 가중치와 코드가 배포됩니다.
PrismML의 Qwen3.8-27B 기반 3진법 압축 모델 Bonsai 2(5.95GB)의 거절 회로를 파일 크기 증가 없이 가중치 레벨에서 제거한 dealignai 팀의 CRACK 빌드가 공개되었습니다.
Qwen3.8 27B 기반으로 성능 손실을 최소화하면서 크기를 5.9GB로 줄인 PrismML의 새로운 플래그십 Ternary 모델 Bonsai 2 27B가 출시되었습니다.
Impact-Site-Verification: 9b3ebd10-6c45-44cf-a014-5b8c19b7b285