PrismML, 9배 작아진 27B급 3진법 모델 'Bonsai 2' 공개

이미지 출처: https://x.com/PrismML/status/2100692248480596348

PrismML은 2026년 9월 17일, 대규모 언어 모델(LLM)의 효율성을 극대화한 새로운 플래그십 Ternary(3진법) 가중치 모델인 'Bonsai 2 27B'를 발표했습니다.

이번에 공개된 Bonsai 2 27B는 기존 Qwen3.8 27B를 기반으로 구축되었습니다. PrismML은 고유의 Ternary 압축 기술을 통해 원래 정밀도 대비 모델 크기를 9배 줄여, 총 용량을 5.9GB 수준까지 낮추는 데 성공했습니다.

온디바이스 AI를 위한 성능 최적화

Bonsai 2의 핵심은 극단적인 압축 환경에서도 높은 성능을 유지한다는 점입니다. PrismML측은 압축 후에도 종합 벤치마크 점수의 98.2%를 보존하여, 기존 대형 모델이 가진 지능적 능력을 유지하면서도 훨씬 가벼운 온디바이스 환경에서의 작동이 가능하다고 밝혔습니다.

주요 특징은 다음과 같습니다.

• 멀티모달 통합: 추론, 코딩, 비전 기능을 하나로 통합하여 단일 모델로 다양한 작업 수행이 가능합니다.
• 성능 효율성: 5.9GB의 가벼운 용량 덕분에 고사양 서버 환경이 아닌 로컬 환경에서도 실용적인 추론 속도를 확보할 수 있습니다.
• 범용성: 현재 Hugging Face와 PrismML Studio를 통해 누구나 사용할 수 있습니다.

Bonsai 2 27B 모델의 Ternary 압축 기술은 하드웨어 자원이 제한적인 온디바이스 AI 기기에서 고성능 멀티모달 모델을 구현하려는 실무자들에게 새로운 대안이 될 것으로 보입니다. 다만, 이러한 Ternary 모델의 성능을 온전히 활용하기 위해서는 최적화된 추론 라이브러리나 전용 하드웨어 지원이 필요할 수 있습니다.

출처

PrismML, Bonsai 2 27B Launch Announcement - PRNewswire PrismML Announcement - X