문샷 AI, 2.8T MoE 멀티모달 모델 'Kimi K3.1 Pro' 공개… 11월 4일 오픈 가중치 배포
문샷 AI가 총 2.8T 파라미터와 1M 토큰 컨텍스트를 지원하는 플래그십 멀티모달 모델 Kimi K3.1 Pro를 발표했습니다. API와 서비스가 즉시 출시되었으며 오픈 가중치는 11월 4일 배포됩니다.
#MoE
TAU-HOME.COM에서 MoE 태그로 묶인 글입니다.
메타, 코딩·에이전트 특화 816B 오픈웨이트 AI 모델 'Muse Spark' 공개
메타가 코딩 및 AI 에이전트 구축을 위한 대규모 오픈웨이트 모델 'Muse Spark'를 공개했습니다. 총 8,160억 파라미터(활성 420억) MoE 아키텍처와 100만 토큰 컨텍스트, M5 Ultra 구동 요건 등 핵심 세부사항을 정리합니다.
Liquid AI, MoE 추론 모델 'LFM2.5-24B-A2B' 발표…M5 Max서 초당 184토큰 기록
Liquid AI가 240억 파라미터 중 24.5억 개만 활성화하는 MoE 추론 모델 LFM2.5-24B-A2B를 공개했습니다. 한국어 지원과 함께 애플 M5 Max에서 초당 184토큰 처리 속도를 기록했습니다.
리퀴드 AI, 노트북에서 로컬 구동되는 MoE 에이전트 모델 'LFM2.5-24B-A2B' 공개
리퀴드 AI(Liquid AI)가 총 24B 파라미터 중 토큰당 약 2B만 활성화해 노트북에서 고속 추론과 도구 호출을 수행하는 오픈 웨이트 모델 LFM2.5-24B-A2B를 출시했습니다. 131K 컨텍스트와 도구 벤치마크 우위를 갖추었습니다.
OpenBMB, 3GB 메모리로 구동되는 온디바이스 MLLM 'MiniCPM-V 4.7' 공개
OpenBMB가 Lookahead Expert Scheduling(LES) 기술을 적용한 오픈소스 멀티모달 모델 MiniCPM-V 4.7 시리즈를 공개했습니다. 35B-A3B 모델은 3GB 메모리 환경에서 초당 17토큰 이상의 온디바이스 추론 속도를 구현합니다.
DeepSeek 공개 GPU 커널 모음 DeepGEMM, 원문 주장 정리
X 사용자 @Ryrenz가 DeepSeek의 GPU 연산자 라이브러리 DeepGEMM 공개를 소개하며 전한 구성 요소, DeepJIT 방식, 성능 주장과 미검증 지점을 원문 기준으로 정리한 개발자 도구 소개입니다.
DeepSeek DeepGEMM: SM90·SM100 GPU를 위한 경량 고성능 BLAS 및 MoE 커널 라이브러리
DeepSeek이 공개한 GPU 텐서 코어 커널 라이브러리 DeepGEMM. 런타임 JIT 컴파일로 설치 사전 컴파일을 없애고 FP8/FP4/BF16 GEMM, 통신·연산 오버랩 Mega MoE, MQA 스코어링 커널을 단일 코드베이스로 제공합니다.
독일 Aleph Alpha 78B MoE 'Kolibri-1' 커뮤니티 GGUF 공개: CPU로 13~15 TPS 달성
Aleph Alpha의 78B MoE Kolibri-1을 47.5GB Q4_K_M GGUF로 양자화하여 패치된 llama.cpp와 128GB RAM 환경에서 CPU 단독으로 초당 13~15 토큰을 기록한 로컬 구동 방식을 정리합니다.
Qwen3.8-Flash-Next, 단일 32GB GPU 구동 프리뷰 공개… 80+ tok/s 달성
AgentionAI가 125B MoE 구조의 Qwen3.8-Flash-Next 모델을 단일 32GB GPU 환경에서 구동하는 특수 양자화 프리뷰를 공개했습니다. N-gram 오프로드와 로터 기반 양자화로 28.8 GiB 점유 및 80+ tok/s 생성 속도를 보고했습니다.
RTX 4090 한 장으로 125B MoE 돌리기: Qwen3.8-Flash-Next 하이브리드 추론 보고
125B MoE Qwen3.8-Flash-Next를 RTX 4090 한 장과 시스템 RAM 오프로드로 구동했다는 커뮤니티 보고의 핵심 조건과 주의점을 검증했습니다.
Kimi-K3 공개: 2.8조 파라미터·100만 토큰 오픈 MoE 에이전트 모델
문샷 AI가 개발한 2.8T 오픈 MoE 모델 'Kimi-K3'가 알리바바 클라우드에 론칭되었습니다. KDA·Gated MLA 기반 104B 활성 파라미터 구조와 100만 토큰 컨텍스트로 자율 리포지토리 엔지니어링을 지원합니다.
무검열 Nex-N2.5-mini GGUF 출시: 18GB VRAM 단일 GPU로 로컬 구동하는 35B MoE 실전 팁
거부 반응이 제거된 무검열 Nex-N2.5-mini GGUF 빌드(IQ4_XS)가 공개되어 18GB VRAM 환경에서 로컬 구동이 가능해졌습니다. 35B MoE(3.5B 활성), 262K 컨텍스트, 비전 및 llama.cpp 에이전틱 코딩 지원 사양과 활용 팁을 정리합니다.
DeepSeek V4.1 Flash 공식 출시: Causal-Encoder-Decoder 비대칭 구조와 890바이트 KV 캐시 혁신
DeepSeek이 552B 파라미터 MoE 모델 'DeepSeek V4.1 Flash'를 공식 출시했습니다. 프롬프트 8B·생성 16B의 비대칭 Causal-Encoder-Decoder 구조, 토큰당 890바이트 수준의 KV 캐시 압축, Thomas Wolf의 포워드 패스 분석과 벤치마
DeepSeek V4.1 Flash 출시: 552B 멀티모달 MoE와 API 가격 인하
DeepSeek가 552B 멀티모달 MoE 모델 V4.1 Flash를 공식 출시했습니다. Causal-Encoder-Decoder 구조, 입력 8B·출력 16B 활성화, 파격적인 API 요금 체계와 V4 Pro 전환 일정을 정리했습니다.