Blackfrost AI, BF16·FP8·EXL3·NVFP4 4대 포맷 지원 공식 'Cyber-Frost-Harness' 오픈소스 공개

Blackfrost AI가 보안 연구 모델 CYBER-FROST 3.8의 BF16, FP8, EXL3, NVFP4 배포판에 공식 실행 하네스를 추가하고 GitHub에 오픈소스로 공개했습니다. Spark TensorFold 호환 및 범용 모델 지원 특징을 짚어봅니다.

tau · 2026년 10월 6일

#Blackfrost-AI #Cyber-Frost #LLM #EXL3 #NVFP4 #양자화 #오픈소스

Blackfrost AI, BF16·FP8·EXL3·NVFP4 4대 포맷 지원 공식 'Cyber-Frost-Harness' 오픈소스 공개

Blackfrost-AI가 2026년 10월 6일, 인가된 보안 연구 및 취약점 평가용 특화 언어모델인 CYBER-FROST-3.8의 공식 실행 하네스 'Cyber-Frost-Harness'를 공개했습니다. 이번 릴리즈는 BF16 풀 정밀도를 비롯해 FP8, EXL3, NVFP4 등 4대 주요 배포판 저장소에 공식 하네스를 통합한 것은 물론, 깃허브(GitHub)를 통해 일반 오픈소스 언어모델에도 범용으로 연동할 수 있도록 코드를 전면 개방했습니다.

Blackfrost AI의 Cyber-Frost-Harness 아키텍처와 BF16, FP8, EXL3, NVFP4 멀티 양자화 포맷 지원 환경을 나타내는 기술 에디토리얼 그래픽

이미지 출처: Blackfrost-AI / GitHub

CYBER-FROST-3.8은 Qwen4ExpForConditionalGeneration 아키텍처 기반의 보안 전문 모델로, 인가된 보안 엔지니어링과 침해 대응 및 연구 목적으로 제작된 모델입니다. 그동안 정밀도와 양자화 포맷별로 파편화되어 있던 서빙 환경을 단일 하네스로 묶어냄으로써 로컬 보안 연구 및 LLM 벤치마킹 작업의 진입 장벽을 낮추었습니다.

BF16부터 NVFP4까지: 4대 배포판을 아우르는 전용 런타임 하네스

Cyber-Frost-Harness의 가장 핵심적인 강점은 다양한 하드웨어 자원과 실행 환경에 맞춰 제작된 4대 배포판 체크포인트를 일관되게 지원한다는 점입니다.

단일 모델 가중치에 머무르지 않고 정밀도와 압축 방식에 맞춘 전용 실행 환경을 제공합니다.

  • BF16 및 FP8 지원: 기본 풀 정밀도 SafeTensors 체크포인트인 BF16 환경과 최신 추론 가속 환경을 위한 FP8 정밀도를 기본 지원합니다.
  • 공식 협업 EXL3 체크포인트 지원: @ViC305(vcruz305)와의 협업을 통해 제작된 CYBER-FROST-3.8-EXL3-SAGE-3.87bpw 체크포인트를 구동할 수 있습니다. 해당 아티팩트는 어댑터가 아닌 독립 실행형 체크포인트로 허깅페이스에 등록되어 있습니다.
  • NVFP4 지원: 최신 차세대 NVIDIA GPU 환경에 최적화된 4비트 부동소수점 포맷인 NVFP4 가중치를 정식 지원하여 가용 VRAM 예산 내에서 효율적인 추론을 가능하게 합니다.

이를 통해 연구자는 자신의 GPU 사양과 VRAM 크기에 맞춰 적합한 양자화 모델을 선택하고 동일한 하네스 인터페이스로 실행할 수 있습니다.

깃허브 오픈소스 공개와 범용 모델 확장성

Blackfrost-AI는 이번 도구를 CYBER-FROST 전용 도구로 한정하지 않고 깃허브(Blackfrost-AI/Cyber-Frost-Harness)에 오픈소스로 전면 공개했습니다.

공식 릴리즈 안내를 통해 "깃허브에서 어떤 오픈소스 모델이든 가져와 활용할 수 있다"고 밝혔듯이, 하네스의 유연한 아키텍처는 다른 오픈소스 LLM 런타임 구성에도 적용할 수 있습니다.

  • 재사용 가능한 하네스 아키텍처: 다양한 모델 아키텍처와 양자화 가중치를 로드하고 벤치마크할 수 있는 기반 코드를 제공합니다.
  • 로컬 연구 파이프라인 통합: 사내 폐쇄망이나 독립된 연구 랩에서 다양한 오픈소스 체크포인트를 평가할 때 재사용 가능한 엔지니어링 발판을 제공합니다.

특정 벤더에 종속되지 않은 오픈소스 공개 정책을 통해 보안 연구뿐만 아니라 커뮤니티 전반의 양자화 모델 평가 편의성을 높였습니다.

Spark TensorFold 호환성과 플랫폼 지원 현황

하드웨어 및 인프라 지원 측면에서 제작팀은 Spark 환경의 TensorFold 호환성을 확인했습니다.

커뮤니티의 런타임 지원 문의에 대해 Blackfrost-AI는 하네스가 Spark 환경에서 TensorFold와 이미 호환된다고 밝혔습니다.

  • Spark 환경 TensorFold 호환: 제작진은 커뮤니티 질의에 대해 하네스가 Spark용 TensorFold와 이미 호환되도록 구성되어 있다고 응답했습니다.
  • Mac 플랫폼 지원 검토: Mac 환경 지원 여부에 대해서는 향후 지원 가능성을 검토하고 있다고 덧붙였습니다.

현재 주 지원 환경은 NVIDIA GPU 및 Spark의 TensorFold 환경이며, Mac 환경 지원은 검토 단계에 머물러 있습니다.

연구 평가 단계와 실무 적용 시 고려사항

Cyber-Frost-Harness와 대상 모델을 실무 환경에 도입할 때는 다음과 같은 특성과 제약을 확인해야 합니다.

  • 보안 연구 전용 특화 모델: CYBER-FROST-3.8은 인가된 보안 전문가들의 취약점 분석, 시스템 평가, 침해 대응 연구를 목적으로 설계된 특화 모델입니다.
  • 활성 연구 평가 단계: 배포판은 현재 활성 연구 평가(active quality assessment) 단계에 있으므로 실무 테스트 시 릴리즈 변경 사항을 주기적으로 모니터링해야 합니다.
  • 플랫폼 제약: Mac 환경 지원은 아직 검토 단계이며, 현재 확인된 주 지원 환경은 NVIDIA GPU 및 Spark TensorFold 기반입니다.

다양한 양자화 규격을 하나의 일관된 오픈소스 하네스로 다루고자 하는 보안 엔지니어와 로컬 LLM 연구자라면 GitHub 저장소를 통해 구조를 직접 검토해볼 가치가 있습니다.

출처