vLLM, DiffusionGemma 기반 단일 스텝 의사결정 모드 지원 시작
vLLM이 텍스트 디퓨전 모델 DiffusionGemma를 활용해 캔버스에 템플릿을 고정하고 단 1회의 디노이징 스텝으로 Yes/No, 다지선다, 점수 및 신뢰도 확률 분포를 즉시 추출하는 Jev 스타일 구조화 추론을 지원합니다.
#StructuredOutputs
TAU HOME에서 StructuredOutputs 태그로 묶인 글입니다.
TAU HOME에서 StructuredOutputs 태그로 묶인 글입니다.
vLLM이 텍스트 디퓨전 모델 DiffusionGemma를 활용해 캔버스에 템플릿을 고정하고 단 1회의 디노이징 스텝으로 Yes/No, 다지선다, 점수 및 신뢰도 확률 분포를 즉시 추출하는 Jev 스타일 구조화 추론을 지원합니다.