TAU-HOME.COM
LOADING

로컬 LLM 플릿 대시보드 sparkDash v2.0 공개: 전면 재설계 UI와 카드 직접 실행, 벤치마크·모니터링 확장

로컬 LLM 플릿 대시보드 sparkDash v2.0 공개. 전면 재설계 UI, 카드에서 바로 모델 실행, Decode·Prefill·품질·Tool Eval 벤치마크와 토큰·전력·이벤트 모니터링 신기능 정리.

tau · 2026년 10월 10일

#sparkDash #LocalLLM #Benchmark #GPUMonitoring

로컬 LLM 플릿 대시보드 sparkDash v2.0 공개: 전면 재설계 UI와 카드 직접 실행, 벤치마크·모니터링 확장

Mia(@MiaAI_lab)가 2026년 10월 10일 로컬 LLM 플릿 대시보드 sparkDash v2.0을 공개했습니다. 작성자는 이번 버전을 전면 재설계(COMPLETE revamp)라고 설명하며, 플릿 개요 카드의 실시간 지표 표시, 카드에서의 모델 직접 실행, 벤치마크 전용 페이지, 토큰·전력·이벤트 모니터링 신기능을 1차 공지로 알렸습니다.

로컬 LLM 플릿의 GPU, VRAM, 전력, 온도, 초당 토큰 지표를 보여주는 다크 모니터링 대시보드 카드 화면

이미지 출처: Mia (@MiaAI_lab) X announcement screenshots

이번 v2.0 소식은 작성자의 X 1차 공지 단일 출처로 확인된 내용이며, 벤치마크 정확도·성능 수치는 공지 주장 그대로로 독립 측정 근거가 없습니다. 공지 말미의 내려받기 단축링크는 검증되지 않아 배포 채널 URL은 확정하지 않습니다.

전면 재설계 UI와 카드에서의 모델 직접 실행

v2.0은 모던하고 미니멀한 방향으로 UI를 전면 재설계했다고 작성자는 밝혔습니다. 플릿 개요의 각 카드에 VRAM, GPU, 온도, 전력, tok/s를 실시간으로 표시합니다.

각 Spark 카드에는 start/stop 스크립트를 등록할 수 있으며, 대시보드를 떠나지 않고 로컬 모델을 직접 실행하고 로딩 상태를 카드에서 확인할 수 있습니다. 작성자는 워커 Spark의 로딩 감지 문의를 받고 LLM 포트 설정(기본값 8888)을 확인하라고 답했습니다.

Decode·Prefill·품질·Tool Eval 벤치마크 전용 페이지

벤치마크는 Decode, Prefill, Quality, Tool Eval Bench 각각의 전용 페이지로 나뉩니다. 내장 품질 벤치로 GSM8K, MMLU, instruction following을 제공하며, 두 실행 결과를 나란히 비교하고 공유용 결과 카드를 지원한다고 작성자는 설명했습니다. Tool Eval Bench는 바로 실행 가능한 런(run)을 내장합니다.

다만 벤치마크 수치의 정확도와 성능 주장은 작성자 공지 기준이며 독립 검증되지 않았습니다. 스레드에서는 TensorFold 조합의 Prefill 수치 스파이크 지적이 1건 있었고, 작성자는 GPU 유닛이 보고한 일시적 스파이크이며 보통 1초 이내에 정상으로 돌아간다고 답했습니다.

모니터링 확장: GPU 히스토리, VRAM 구분, Token Totals·Fleet Energy·Activity

모니터링 신기능으로 재시작 후에도 유지되는 GPU 히스토리와 모델 점유·시스템 사용·여유 VRAM 구분 표시가 추가됐습니다. 신규 페이지 3종은 Token Totals, Fleet Energy, Activity입니다.

Token Totals는 생성·프롬프트·캐시 토큰을 플릿 전체에서 집계하며, 24h·7d·30d·전체 기간 범위, 캐시 히트율, 자동 인사이트, 정렬 테이블과 CSV 내보내기를 제공합니다. Fleet Energy는 노드별 kWh, 평균·피크 전력, 1,000토큰당 Wh 효율, 측정 커버리지, 설정 전기요금 기준 예상 비용을 보여줍니다.

출처