ScaleDown, 단일 패스 제약 디코딩 모델(CDM) 3종 출시… 1M 컨텍스트·출력 토큰 무료

인공지능 모델 스타트업 스케일다운(ScaleDown)이 2026년 10월 13일, 대규모 언어 모델(LLM) 특유의 토큰별 순차 생성 루프를 생략하고 입력을 1회 읽어 처리하는 제약 디코딩 모델(Constrained Decoding Models, 이하 CDM) 3종을 공식 발표했습니다. 프로덕션 워크로드를 겨냥한 이번 모델군은 Classify, Extract, Summarize로 구성되며, 텍스트와 이미지를 지원하는 100만(1M) 토큰 멀티모달 입력 컨텍스트(Summarize 모델의 경우 PDF 지원 포함)를 제공합니다.

이미지 출처: Neal Patel (@neal_k_patel) / ScaleDown

기존 범용 LLM은 입력 프롬프트나 참조 문서에 이미 정답이 포함되어 있는 경우에도 답변 문장을 처음부터 끝까지 한 토큰씩 자기회귀적(auto-regressive)으로 생성해야 했습니다. ScaleDown은 이러한 생성 지연과 토큰 낭비를 줄이기 위해 모델이 입력을 한 번만 읽고(single-pass) 즉각 정형화된 결과값을 산출하는 특화 아키텍처를 전면에 내세웠습니다.

토큰별 순차 생성 루프 생략: 단일 패스 제약 디코딩 아키텍처

ScaleDown이 제시한 제약 디코딩 모델의 핵심은 '단일 목적(purpose-built for 1 task)' 설계에 있습니다.

기존 LLM이 열린 형태의 텍스트를 작성(writing)하도록 학습된 것과 달리, 실제 기업 및 서비스 프로덕션 환경의 대다수 작업은 신속하고 일관되며 저렴한 단일 정답 도출을 필요로 합니다. CDM은 입력을 1회 읽는 단일 패스 과정에서 불필요한 토큰별 생성 루프를 완전히 건너뛰도록 구조화되었습니다.

ScaleDown은 자체 벤치마크 테스트를 바탕으로 상용 프론티어 LLM API 대비 다음과 같은 성능 향상을 달성했다고 밝혔습니다.

• 추론 속도: 기존 프론티어 LLM API 대비 200배 빠른 추론 속도
• 비용 절감: 기존 프론티어 LLM API 대비 467배 저렴한 운영 비용 달성
• 의사결정 정확도: 의사결정 벤치마크인 DecisionBench에서 77.2%를 기록해 기존 특화 의사결정 모델인 Jev(72%) 대비 우수한 성능 확인

Classify·Extract·Summarize: 특화 모델 3종의 기능과 활용

출시와 함께 즉시 제공되는 CDM 3종은 각각 고유한 정형 처리 파이프라인을 담당합니다.

1. Classify (분류 및 라우팅)

사용자가 지정한 라벨 목록을 바탕으로 캘리브레이션된 확률값(calibrated probability)과 명확한 판단 근거(reason)를 함께 반환합니다. 모델 라우팅, 데이터 태깅, 고객 의도 감지에 최적화되어 있으며, 단일 선택뿐만 아니라 1회 패스에서 20개 이상의 다중 라벨(multi-label)을 동시에 지정할 수 있습니다.

2. Extract (정형 데이터 추출)

자연어로 추출하고자 하는 엔티티를 기술하면 신뢰도 점수(confidence scores) 및 원문 인용(citations)이 포함된 유효한 JSON 데이터를 출력합니다. 이는 웹 스크래핑, 비정형 서류 처리, 개인식별정보(PII) 비식별화 작업에 활용할 수 있습니다.

3. Summarize (문서 및 멀티모달 요약)

긴 텍스트, 이미지, PDF 문서를 입력받아 1,000토큰 이하의 일관된 요약문을 반환합니다. AI 에이전트 시스템의 컨텍스트 압축(context compaction), 대용량 문서 색인을 위한 메타데이터 생성, 회의록 및 대화 녹취록 다이제스트 제작에 적합합니다.

1M 멀티모달 컨텍스트와 $0.05/1M 입력 과금 체계

ScaleDown CDM 제품군은 대용량 문서 처리를 전제로 한 강력한 사양과 파격적인 가격 정책을 결합했습니다.

• 100만 토큰 멀티모달 컨텍스트: 텍스트와 이미지를 포괄하는 100만(1M) 토큰 멀티모달 입력을 지원합니다. 이는 기존 의사결정 모델 Jev 대비 31배 큰 규모입니다.
• 입력 토큰 중심 과금 및 출력 무료: 입력 토큰 요금은 100만 개당 $0.05 ($0.05/1M)로 책정되었으며, Summarize 모델을 포함한 모든 모델의 출력 토큰은 전면 무료로 제공됩니다.
• 초기 무료 프로모션: 서비스 공개 직후 50시간 동안 5,000만(50M) 입력 토큰을 무료로 제공합니다.
• 생태계 즉시 연동: OpenRouter, Vercel, LiteLLM, LangChain, TrustedRouter, Arthur AI, useRouterPlus 등 주요 AI 프레임워크 및 라우터 서비스에서 출시 당일부터 즉시 사용할 수 있습니다.

또한 ScaleDown은 수동 프롬프트 엔지니어링의 부담을 줄이기 위해 라벨 및 엔티티 정의를 자동화하는 오픈소스 보조 도구 'SLM Agent'를 GitHub에 함께 공개했습니다.

프로덕션 한계점과 자체 벤치마크 검증 과제

새로운 모델 아키텍처의 도입 효과가 뚜렷한 반면, 실무 도입 시 고려해야 할 기술적 제약 사항도 명확합니다.

우선 CDM은 분류, 정형 데이터 추출, 요약이라는 단일 작업에 철저히 최적화된 모델입니다. 따라서 문맥을 이어가는 자유 대화형 챗봇이나 복잡한 다단계 논리 추론, 자유 형식의 창작 글쓰기 작업에는 적합하지 않으며 이를 대체할 수 없습니다.

또한 200배의 추론 가속과 467배의 비용 절감, DecisionBench 77.2% 결과는 개발사인 ScaleDown의 자체 평가 수치입니다. 통제된 벤치마크를 벗어난 다양한 서드파티 프로덕션 워크로드에서 동일한 효율과 정확도를 유지하는지에 대한 독립적인 검증이 필요합니다.

아울러 입력 데이터가 불완전하거나 원문에 정답이 명시되지 않은 모호한 케이스의 경우 시스템 프롬프트(클래스 라벨 및 엔티티 정의)에 예외 처리 기준을 사전에 엄밀하게 명시해야 합니다. ScaleDown은 Classify 모델을 라우터로 활용할 수 있으나 전용 라우터 및 도구 호출(Tool Calling) 특화 모델은 아직 미출시 상태이며 추후 별도 공개할 예정이라고 밝혔습니다.

출처

• Neal Patel 공식 X (@neal_k_patel): ScaleDown CDM 출시 발표
• ScaleDown 공식 웹사이트: ScaleDown AI
• ScaleDown 팀 GitHub 저장소: scaledown-team/SLM_Agent