나리랩스, Qwen3-ASR 1.7B 기반 40ms 초저지연 스트리밍 STT 엔드포인트 출시

나리랩스가 Qwen3-ASR 1.7B 기반 자체 추론 엔진을 적용해 TTFS 40ms와 시간당 $0.06 요금의 초저지연 스트리밍 STT 엔드포인트를 공개했습니다. 현재 퍼블릭 베타로 무료 제공됩니다.

tau · 2026년 9월 12일

#NariLabs #STT #Qwen3-ASR #음성인식 #초저지연 #AI엔드포인트 #오픈소스AI

나리랩스, Qwen3-ASR 1.7B 기반 40ms 초저지연 스트리밍 STT 엔드포인트 출시

Y Combinator의 지원을 받는 음성 AI 스타트업 나리랩스(Nari Labs)가 2026년 9월 12일(한국 시각), 오픈소스 음성 인식 모델 Qwen3-ASR 1.7B와 자체 개발 추론 엔진을 결합한 초저지연 스트리밍 음성 인식(Speech-to-Text, STT) 엔드포인트를 공식 출시했습니다. 현재 공식 웹사이트(narilabs.com)를 통해 퍼블릭 베타 형태로 누구나 무료로 테스트할 수 있습니다.

나리랩스 Qwen3-ASR 1.7B 기반 스트리밍 STT 실시간 전사 및 40ms 레이턴시 벤치마크 시연 영상

이미지 출처: Toby Kim (@doyeob) via X

실시간 대화형 음성 에이전트와 라이브 자막 시스템의 확산으로 초저지연 음성 전사 기술의 수요가 급증하는 가운데, 나리랩스는 오픈소스 기반 모델 최적화와 자체 추론 스택 혁신을 통해 응답 속도와 단가 장벽을 대폭 낮춘 새로운 대안을 제시했습니다.

Qwen3-ASR 1.7B와 자체 추론 엔진이 달성한 40ms 초저지연 성능

나리랩스가 선보인 엔드포인트의 핵심 기술 경쟁력은 오픈소스 파운데이션 모델인 Qwen3-ASR 1.7B와 이를 극대화한 자체 고성능 스트리밍 추론 엔진의 결합입니다.

나리랩스가 인용한 음성 AI 전문 벤치마크 플랫폼 Coval(2026년 9월 10일 기준)의 실측 데이터에 따르면, 해당 엔드포인트는 다음과 같은 주요 벤치마크 지표를 기록했습니다.

  • 업계 1위 응답 지연 시간: 중앙값(p50) 지연 시간 43ms, 첫 오디오 청크 전사까지 걸리는 시간(Time to First Segment, TTFS) 40ms를 기록하며 벤치마크 참여 모델 중 레이턴시 부문 1위를 차지했습니다.
  • 상위권 전사 정확도: 단어 오류율(Word Error Rate, WER) 3.3%를 달성하여 현재 상용화된 공개 API 중 종합 3위에 올랐습니다.

기존 대형 음성 모델들이 높은 정확도를 위해 수백 밀리초 단위의 버퍼링 지연을 수반했던 것과 달리, 나리랩스는 1.7B 매개변수 규모의 경량화된 모델 구조에 스트리밍 친화적 추론 파이프라인을 구축함으로써 대화 흐름의 끊김 없는 즉각적인 텍스트 변환을 구현했습니다.

시간당 $0.06의 가격 경쟁력과 상용 모델 대비 효율성

지연 시간 단축과 함께 나리랩스가 전면에 내세운 핵심 강점은 공격적인 가격 정책입니다.

나리랩스는 이번 스트리밍 STT 엔드포인트의 정식 서비스 이용 가격을 오디오 입력 기준 시간당 0.06달러($0.06/hour)로 책정했습니다. 이는 현재 상용 음성 AI 시장을 선도하는 주요 빅테크 및 전문 플랫폼들과 비교했을 때 다음과 같은 격차를 보인다고 나리랩스 측은 발표했습니다.

  • ElevenLabs 대비 처리 속도: 음성 합성 및 인식 분야의 주요 플랫폼인 ElevenLabs Scribe V2 대비 약 3배 빠른 처리 속도를 구현했습니다.
  • Google Gemini 대비 비용 절감: Google의 Gemini Transcribe 3.5 API 대비 약 9배 저렴한 비용 구조를 갖추어 대규모 실시간 오디오 파이프라인 운영 부담을 낮췄습니다.

현재 엔드포인트는 개발자와 기업 사용자들을 위해 퍼블릭 베타 기간 동안 무료로 개방되어 있으며, 정식 상용화 전환 이후에도 시간당 $0.06의 고정 과금 정책이 적용될 예정입니다.

퍼블릭 베타 운영 현황과 커뮤니티 초기 피드백

나리랩스의 초저지연 엔드포인트는 실시간 음성 비서, 콜센터 콜 트랜스크립션, 멀티플레이어 음성 채팅 번역 등 지연 시간에 민감한 서비스 분야에서 높은 관심을 모으고 있습니다.

그러나 벤치마크 상의 고무적인 성과와 별개로, 초기 커뮤니티 실사용 테스트 과정에서는 몇 가지 개선 과제와 한계점도 함께 관찰되고 있습니다.

  • 비영어 다국어 인식 품질 저하: 영어 음성에 비해 일본어 등 일부 다국어 음성 인식 환경에서 전사 정확도와 완성도가 다소 떨어지는 현상이 초기 사용자들에 의해 보고되었습니다.
  • 웹 플레이그라운드 트래픽 병목: 출시 직후 사용자가 몰리면서 웹 기반 테스트 플레이그라운드 환경에서 일시적인 응답 지연과 버퍼링 현상이 나타나기도 했습니다.
  • 공식 벤치마크 수치의 실환경 검증: 발표된 40ms TTFS 및 3.3% WER 지표는 나리랩스가 인용한 Coval 벤치마크 환경 기준 수치이므로, 실제 프로덕션 환경의 다양한 음향 노이즈와 네트워크 조건에 따른 추가적인 성능 검증이 필요합니다.

나리랩스는 현재 퍼블릭 베타 피드백을 지속적으로 수렴하며 자체 추론 엔진의 다국어 안정화와 서빙 인프라 확충을 진행 중인 것으로 알려졌습니다.

출처