TAU-HOME.COM
LOADING

Fireworks AI, NVIDIA Blackwell 기반 1,500 TPS 추론 엔진 공개 및 Muse Glimmer 30B 무료 파인튜닝 지원

Fireworks AI가 첫 연례 컨퍼런스 Forge에서 NVIDIA Blackwell 기반 Ultra-fast 엔진(퍼블릭 프리뷰, 최대 1,500 TPS), 반값 요율의 Background Mode, 11월 30일까지 진행되는 Muse Glimmer 30B 무료 학습 프로모션을 발표

tau · 2026년 11월 13일

#Fireworks AI #Blackwell #LLM 추론 #파인튜닝 #DeepSeek #AI 에이전트

Fireworks AI, NVIDIA Blackwell 기반 1,500 TPS 추론 엔진 공개 및 Muse Glimmer 30B 무료 파인튜닝 지원

Fireworks AI가 첫 연례 컨퍼런스인 Fireworks Forge 개막일인 2026년 11월 13일(현지 기준), 기업 맞춤형 특화 AI 구축을 위한 신규 제품군을 일괄 공개했습니다. 핵심은 NVIDIA Blackwell GPU 기반 초고속 추론 엔진인 Fireworks Ultra-fast의 퍼블릭 프리뷰 출시와 오픈웨이트 모델 파인튜닝 및 에이전트 워크로드 비용 절감 도구의 추가입니다.

Fireworks Forge 컨퍼런스에서 공개된 NVIDIA Blackwell 기반 초고속 LLM 추론 아키텍처와 에이전트 워크로드 라우팅 다이어그램

이미지 출처: https://fireworks.ai/blog/fireworks-unveils-new-products-at-forge-to-help-companies-build-specialized-intelligence

에이전트가 단일 작업을 완수하려고 모델을 수십 번씩 호출하는 환경에서는 지연 시간과 API 비용이 동시에 불어납니다. Fireworks AI는 이번 발표를 통해 실시간 응답이 필수인 작업과 대기 가능한 백그라운드 작업을 분리해 처리하는 인프라 구성을 제시했습니다.

NVIDIA Blackwell 기반 Ultra-fast 엔진과 워크로드별 비용 분리

가장 눈에 띄는 변화는 NVIDIA Blackwell GPU로 구동되는 Fireworks Ultra-fast 엔진의 퍼블릭 프리뷰 개시입니다. Fireworks AI는 DeepSeek V4.1 Flash 모델 기준으로 초당 최대 1,500토큰(TPS)의 생성 속도를 구현했다고 밝혔습니다. 회사 측 벤치마크에 따르면, 30턴(30-turn)에 걸쳐 연속 추론이 일어나는 에이전트 작업의 완료 시간은 기존 1분에서 8초로 줄었습니다.

즉각적인 응답보다 처리 단가가 중요한 비동기 작업을 위한 요금·실행 옵션도 함께 나왔습니다.

  • Background Mode: 데이터 평가(evaluation) 생성이나 야간 리서치처럼 즉시 완료할 필요가 없는 적격 배치 워크로드에 기존 대비 50% 할인된 반값 요율을 적용합니다.
  • Multi-day Prompt Caching 및 처리량 확장: 장기간 반복되는 컨텍스트의 재처리 비용을 낮추는 다일 프롬프트 캐싱과 함께, 전용 용량을 미리 예약하지 않고도 동시 실행 한도를 높이는 상위 서버리스 속도 제한(higher serverless rate limits) 및 여유 용량 활용 기능인 Elastic Burst가 정식 출시(GA)되었습니다.
  • 특화 모델 Ember-1: 서버리스와 전용 배포로 제공되는 Fireworks 자체 모델 Ember-1은 내부 평가에서 Kimi K3와 대등한 품질을 유지하면서 토큰 사용량을 약 40% 줄였으며, 5개 산업 벤치마크에서 Claude Opus 5와 약 1점 차이의 점수를 작업당 약 5분의 1 비용으로 기록했다고 회사는 설명했습니다.

실시간 에이전트 응답 속도를 높이는 Ultra-fast와 배치 단가를 낮추는 Background Mode가 동시에 도입되면서, 개발 팀은 단일 모델 호출 속도가 아니라 작업의 시급성에 따라 추론 파이프라인의 시간과 예산을 직접 배분할 수 있게 되었습니다.

11월 말까지 Muse Glimmer 30B 무료 학습 및 LoRA 서버리스 서빙

모델 자체를 기업 업무에 맞게 조정하는 학습·배포 경로도 간소화되었습니다. Fireworks AI는 2026년 11월 30일까지 Muse Glimmer 30B 모델을 대상으로 지도 미세조정(SFT), 직접 선호도 최적화(DPO), 강화학습(RL)을 모두 포함하는 무료 파인튜닝 프로모션을 운영합니다.

학습된 모델을 별도 GPU 인스턴스 점유 없이 배포하는 기능도 퍼블릭 프리뷰로 열렸습니다.

  • Specialized Model Inference(퍼블릭 프리뷰): GLM 5.3 Flash 지원을 시작으로 LoRA 어댑터를 서버리스 방식으로 서빙합니다. 토큰당 과금 체계를 따르므로 유휴 시간에는 서빙 비용이 발생하지 않으며, 기존 모델을 운영하면서 다음 버전을 병행 실험할 수 있습니다.
  • No Eval(프라이빗 프리뷰): 프로덕션 환경의 실행 로그(trace)와 제품 신호를 작업별 평가 데이터셋으로 변환해, 수주간 수작업 라벨링 없이도 모델의 취약 지점과 학습 후 개선 여부를 측정하도록 돕습니다.

Nexus Desktop 정식 출시와 엔터프라이즈 거버넌스

임직원이 기존에 쓰던 코딩 및 협업 도구 안에서 오픈 모델과 폐쇄형 모델을 함께 라우팅하는 Fireworks Nexus도 확장되었습니다. 기존 Nexus CLI에 이어 Nexus Desktop이 정식 출시되면서 Codex 앱, Claude Desktop, OpenCode와 터미널 조작 없이 바로 연동됩니다. 요금제는 개인용 Pro 플랜이 월 8달러, 조직용 Teams 플랜이 시트당 월 10달러부터 시작하며, Enterprise 플랜은 SSO, 거버넌스, 공유 예산, 접근 제어를 포함합니다.

기업 보안 및 규제 대응을 위한 기능도 단계별로 공개되었습니다. 모델 거버넌스, 지출 통제, 내보내기 가능한 감사 로그(exportable audit logs)는 정식 출시되었고, 중앙 집중식 계정 관리·지역별 데이터 제어·고객 관리형 암호화는 프리뷰로 제공됩니다. 자체 클라우드나 네오클라우드, 데이터센터 내부의 고객 GPU 환경에서 Fireworks 추론 엔진과 학습 파이프라인을 직접 구동하는 Fireworks Sovereign은 프라이빗 프리뷰 상태로 공개되었으며, 회사는 현재 고객 환경에서 25,000개 이상의 GPU를 관리하고 있다고 밝혔습니다.

확인된 한계와 유의점

이번에 발표된 기능 가운데 핵심 추론 및 서빙 제품군은 아직 초기 제공 단계에 있습니다. Ultra-fast 엔진과 Specialized Model Inference는 퍼블릭 프리뷰 상태이며, No Eval과 Fireworks Sovereign은 프라이빗 프리뷰로 제한 제공됩니다. 또한 Muse Glimmer 30B의 SFT·DPO·RL 무료 학습 혜택은 2026년 11월 30일까지만 한시적으로 적용되며, Background Mode의 50% 할인은 즉각적인 응답이 필요 없는 적격 비동기 작업에만 해당합니다.

출처

Impact-Site-Verification: 9b3ebd10-6c45-44cf-a014-5b8c19b7b285