0.6B부터 27B까지 전 라인업 오픈소스 공개: 의사결정 특화 AI 'Decision 2.0' 출시

2026년 10월 3일, 오픈소스 AI 연구진 Xunzhuo Liu(@XunzhuoLiu)가 0.6B부터 27B 파라미터까지 전 체급 라인업을 아우르는 최신 의사결정(Decision) 특화 모델군 'Decision 2.0'을 Hugging Face를 통해 오픈소스로 공식 출시했습니다.

이미지 출처: @XunzhuoLiu / X

이번 릴리즈는 AI 에이전트 워크플로우에서 폭발적으로 증가하는 마이크로 의사결정(System 1 Decision) 수요를 겨냥한 것으로, 초경량 0.6B부터 대형 27B까지 전 체급 모델을 오픈소스로 개방하여 자체 호스팅 인프라에서의 고속 라우팅과 분류 자동화 가능성을 대폭 확장했습니다.

단일 순방향 패스 기반의 정합 확률 출력과 전 체급 라인업

Decision 2.0의 핵심은 자유 형식 텍스트 생성이 아닌, 한정된 선택지와 레이블 판정에 특화된 의사결정 아키텍처에 있습니다.

기존 대형 언어 모델(LLM)이 예/아니오 판정이나 카테고리 분류를 수행할 때 발생하는 불필요한 토큰 생성 지연과 컴퓨팅 낭비를 차단하고, 단일 순방향 패스(single forward pass)만으로 후보 레이블에 대한 정합된 확률(calibrated probability)을 즉각 반환합니다.

• 0.6B 초소형 모델: 엣지 디바이스나 로컬 개발 환경에서 가볍게 구동 가능하며, 초저지연이 필수적인 작업에 최적화
• 중소형 모델 라인업: 워크플로우 분기 및 프롬프트 사전 필터링을 위한 균형 잡힌 속도와 정확도 제공
• 27B 고정밀 모델: 복잡한 다중 조건 검증과 고신뢰도가 요구되는 엔터프라이즈급 의사결정 전담

모든 모델 가중치는 Hugging Face 컬렉션(vllm-sr/decision-20)을 통해 누구나 자유롭게 다운로드받아 로컬 및 클라우드 환경에 배포할 수 있습니다.

온체인 스캔부터 에이전트 라우팅까지: 실무 적용과 런타임 최적화

Decision 2.0은 에이전트 오케스트레이션과 대규모 데이터 스캔 현장에서 실질적인 효율을 발휘하도록 설계되었습니다.

특히 수천 개의 스마트 컨트랙트나 트랜잭션을 실시간으로 모니터링해야 하는 온체인 스캔 환경에서는 무거운 추론 모델보다 0.6B 수준의 초저지연 판정 모델이 더 큰 위력을 발휘합니다. 지연 시간이 중요한 파이프라인에서 빠른 플래그 판정을 수행하고, 정밀 검증이 필요한 구간에만 27B 모델을 선별 배치하는 계층형 구조 구축이 가능합니다.

개발진은 vLLM 등 주요 추론 엔진에서 의사결정 모델이 더 빠르게 동작할 수 있도록 런타임 특화 최적화(runtime-specific optimizations)를 적용했다고 밝혔습니다. 이를 통해 별도의 복잡한 파싱 로직 없이도 구조화된 결정 값을 밀리초 단위로 수신할 수 있습니다.

도입 시 고려사항과 로컬 배포 환경

Decision 2.0을 프로젝트에 도입할 때는 모델의 특성과 하드웨어 요구사항을 사전에 확인해야 합니다.

1. 용도 한정: 본 모델군은 에이전트 라우팅, 티켓 분류, 보안 검사 등 정형화된 선택지 판정에 특화되어 있으며, 자유로운 대화나 장문 문서 생성용이 아닙니다.
2. 하드웨어 자원: 0.6B 모델은 소형 로컬 머신에서도 가볍게 구동되지만, 27B 모델을 로컬 환경에 온전히 서빙하기 위해서는 충분한 GPU VRAM 용량이 확보되어야 합니다.

출처

• Xunzhuo Liu 공식 X 발표: Introducing Decision 2.0 Announcement
• Hugging Face 컬렉션: vllm-sr / decision-20