OpenBMB, 3GB 메모리로 구동되는 온디바이스 MLLM 'MiniCPM-V 4.7' 공개
OpenBMB가 Lookahead Expert Scheduling(LES) 기술을 적용한 오픈소스 멀티모달 모델 MiniCPM-V 4.7 시리즈를 공개했습니다. 35B-A3B 모델은 3GB 메모리 환경에서 초당 17토큰 이상의 온디바이스 추론 속도를 구현합니다.
#OpenBMB
TAU-HOME.COM에서 OpenBMB 태그로 묶인 글입니다.
VoxCPM2 탑재 오픈소스 영상 AI 자동 더빙 도구 'YouDub WebUI' 공개
OpenBMB의 음성 생성 모델 VoxCPM2를 통합하여 음성 분리, 자막 번역, 제로샷 음성 복제, BGM 보존 믹싱 및 자막 합성까지 전 과정을 로컬에서 자동화하는 오픈소스 비디오 현지화 도구 YouDub WebUI를 소개합니다.
2GB RAM으로 스마트폰과 노트북에서 오프라인 에이전트를 구동하는 소형 오픈소스 모델 'MiniCPM5-2B'
OpenBMB와 칭화대, 모델베스트가 약 2.52B 파라미터 규모의 온디바이스 특화 오픈소스 언어 모델 MiniCPM5-2B를 공개했습니다. 2GB 수준의 RAM 환경과 최대 128K 컨텍스트를 지원하여 스마트폰과 노트북에서 완전 오프라인으로 코딩 및 도구 호출 에이전트를 구동할 수 있