리퀴드 AI, 노트북에서 로컬 구동되는 MoE 에이전트 모델 'LFM2.5-24B-A2B' 공개
리퀴드 AI(Liquid AI)가 총 24B 파라미터 중 토큰당 약 2B만 활성화해 노트북에서 고속 추론과 도구 호출을 수행하는 오픈 웨이트 모델 LFM2.5-24B-A2B를 출시했습니다. 131K 컨텍스트와 도구 벤치마크 우위를 갖추었습니다.
#OnDeviceAI
TAU-HOME.COM에서 OnDeviceAI 태그로 묶인 글입니다.
리퀴드 AI, 온디바이스 에이전트용 24B 오픈 모델 'LFM2.5-24B-A2B' 공개
리퀴드 AI가 24.0B 총 파라미터 중 2.45B만 활성화하는 온디바이스 MoE 추론 모델 LFM2.5-24B-A2B를 오픈웨이트로 공개했습니다. 131K 컨텍스트와 도구 호출 성능을 갖추고 4비트 양자화 기준 M5 Max에서 초당 184토큰 속도를 제공합니다.
OpenBMB, 3GB 메모리로 구동되는 온디바이스 MLLM 'MiniCPM-V 4.7' 공개
OpenBMB가 Lookahead Expert Scheduling(LES) 기술을 적용한 오픈소스 멀티모달 모델 MiniCPM-V 4.7 시리즈를 공개했습니다. 35B-A3B 모델은 3GB 메모리 환경에서 초당 17토큰 이상의 온디바이스 추론 속도를 구현합니다.
텐센트, 440MB 온디바이스 오픈소스 AI 번역 모델 'Hy-MT2' 공개
텐센트가 스마트폰 및 엣지 디바이스에서 완전 오프라인으로 구동되는 440MB 크기의 초경량 오픈소스 다국어 번역 AI 모델 'Hy-MT2'를 공개했습니다. 33개 다국어를 지원하며 로컬 환경에서 비행기 탑승 모드로도 동작합니다.
구글, 플러터 기반 온디바이스 회의 어시스턴트 'AI Edge Foresight' Mac 앱 출시
구글 AI Edge 팀이 플러터(Flutter)와 EmbeddingGemma 2, Gemma 4를 결합하여 데이터 외부 전송 없는 완전 로컬 회의 보조 및 지식 검색 앱 'Google AI Edge Foresight'를 공개했습니다.
MS·엔비디아, 로컬 AI 에이전트 구동하는 '서피스 랩톱 울트라' 공개
마이크로소프트와 엔비디아가 RTX Spark 칩을 탑재한 서피스 랩톱 울트라를 공개했습니다. 최상위 구성은 최대 128GB 통합 메모리로 120B AI 모델을 로컬 구동합니다. 시작가는 2,599달러입니다.
Ghost AI, 온디바이스 개인용 AI 컴퓨터 'Core' 발표… RTX PRO 4000 Blackwell 탑재
Ghost AI가 데이터 외부 유출 없이 24시간 로컬 모델을 구동하는 개인용 AI 하드웨어 'Core'를 공개했습니다. NVIDIA RTX PRO 4000 Blackwell SFF GPU 기반으로 Qwen-3.8-27B 87 tok/s 추론을 지원합니다.
구글, 0.5GB RAM 온디바이스 구동 멀티모달 임베딩 모델 'EmbeddingGemma 2' 오픈소스 공개
구글 딥마인드가 텍스트·코드·이미지·오디오·비디오를 768차원 단일 벡터 공간으로 매핑하는 740M 경량 온디바이스 임베딩 모델 'EmbeddingGemma 2'를 아파치 2.0 라이선스로 공개했습니다.
Cactus Compute, 16.9MB 초경량 온디바이스 음성인식 모델 'Whistle' 공개... Whisper Base 대비 9배 작고 6배 빠르다
Cactus Compute가 16.9MB 단일 파일로 CPU에서 구동되는 초경량 온디바이스 음성-텍스트(STT) 모델 'Whistle'을 공식 출시했습니다. Whisper Base 대비 9배 가볍고 6배 빠른 처리 속도와 7개 언어 지원, 17개 플랫폼 이식성을 제공합니다.
8GB VRAM 노트북에서 구동되는 로컬 비디오 생성 프레임워크 'FreeVideo' 공개
FlashML 연구진이 MiniMax H3와 Video DeltaNet을 결합해 8GB VRAM 및 16GB RAM 환경에서 비디오 생성을 지원하는 오픈소스 도구 FreeVideo를 공개했습니다. ComfyUI 연동 및 LoRA 커스텀 워크플로우를 제공합니다.
Qwen3.5-0.8B 기반 일본어 초경량 모델 v2 공개: 표현 자연스러움 개선, 가중치 즉시 다운로드
개발자 atemoya가 Qwen3.5-0.8B 기반 일본어 SFT 모델의 v2 버전을 허깅페이스에 공개했습니다. 지식량 확장보다 일본어 출력의 자연스러움 개선에 초점을 맞췄으며, 가중치는 즉시 내려받을 수 있고 브라우저 추론 환경은 준비 중입니다.
개인용 PC에서 고품질 비디오 생성: 온디바이스 도구 FreeVideo와 FreeToken 파이프라인 공개
개인용 PC 및 소비자 하드웨어에서 고품질 비디오 생성을 지원하는 FreeVideo가 공개되었습니다. 엣지 MoE 엔진 FreeToken 및 로컬 VLM과 연계하여 스토리 기획부터 비디오 렌더링까지 전 과정을 온디바이스로 자동화할 수 있습니다.
구글 Antigravity SDK, LiteRT 엔진 기반 'Gemma 4' 로컬 오프라인 실행 공식 지원
구글이 Antigravity SDK에 Google AI Edge의 LiteRT 엔진을 접목하여 Gemma 4 26B A4B 오픈 모델을 완전한 오프라인 환경에서 API 비용 없이 구동하는 로컬 에이전트 지원을 발표했습니다.
Edge0: 35B 모델을 1~2.5GB 메모리로 온디바이스 구동하는 오픈소스 프레임워크
클라우드나 데스크톱 GPU 없이 Apple Silicon 기기에서 피크 메모리 1~2.5GB 수준으로 35B 매개변수 모델을 구동할 수 있도록 설계된 오픈소스 온디바이스 AI 프레임워크 Edge0을 살펴봅니다.
2GB RAM으로 스마트폰과 노트북에서 오프라인 에이전트를 구동하는 소형 오픈소스 모델 'MiniCPM5-2B'
OpenBMB와 칭화대, 모델베스트가 약 2.52B 파라미터 규모의 온디바이스 특화 오픈소스 언어 모델 MiniCPM5-2B를 공개했습니다. 2GB 수준의 RAM 환경과 최대 128K 컨텍스트를 지원하여 스마트폰과 노트북에서 완전 오프라인으로 코딩 및 도구 호출 에이전트를 구동할 수 있