마이크로소프트, 소형 GPU용 4B 경량 에이전트 'FrogNano-4B-2609' 조용히 공개

Qwen3.5-4B 기반 하이브리드 Gated DeltaNet 아키텍처와 SWE-bench Verified 61.5% 성능을 갖춘 마이크로소프트의 4B급 오픈소스 코딩 에이전트 FrogNano-4B 분석.

tau · 2026년 10월 3일

#Microsoft #FrogNano #AI-Agent #Qwen #OpenSource #SWEbench

마이크로소프트, 소형 GPU용 4B 경량 에이전트 'FrogNano-4B-2609' 조용히 공개

마이크로소프트 연구소(Microsoft Research)와 서비스나우 리서치(ServiceNow Research)가 2026년 9월 22일(Hugging Face 모델 카드 기준), 일반 소비자용 소형 GPU 및 엣지 환경에서 구동 가능한 40억 파라미터급 오픈소스 코딩 에이전트 모델인 'FrogNano-4B-2609(microsoft/FrogNano-4B-2609)'를 오픈소스 커뮤니티에 조용히 공개했습니다.

마이크로소프트의 4B 경량 오픈소스 코딩 에이전트 FrogNano-4B-2609의 하이브리드 Gated DeltaNet 아키텍처와 로컬 GPU 추론 개념도

이미지 출처: Microsoft / Hugging Face

별도의 대규모 마케팅 행사나 공식 보도자료 없이 Hugging Face 리포지토리와 기술 리포트(arXiv:2609.07925) 형태로 등록된 이번 릴리즈는, 거대 프론티어 LLM의 지식 증류에 의존하던 기존 소형 모델의 한계를 넘어 강화학습(RL)과 온라인 태스크 합성만으로 SWE-bench Verified 61.5%를 달성하고 Apache 2.0 라이선스로 배포되어 개발자들의 이목을 끌고 있습니다.

Qwen3.5-4B 기반 하이브리드 Gated DeltaNet과 131K 컨텍스트

FrogNano-4B-2609의 기반 뼈대는 알리바바의 오픈소스 언어 모델인 Qwen/Qwen3.5-4B입니다.

모델 요약에 따르면 약 46억 6천만 개(500M~5B 대역) 파라미터 크기를 가지며, Qwen3.5 계열의 핵심 특성인 밀집 32계층 하이브리드 Gated DeltaNet과 게이트 어텐션(Gated Attention) 구조를 계승했습니다. 선형 순환 메커니즘과 셀프 어텐션을 결합한 하이브리드 구조 덕분에 긴 시퀀스 처리 시 메모리 점유율을 대폭 낮출 수 있습니다.

  • 131K 롱 컨텍스트 지원: 코딩 에이전트 평가 구성 기준 약 131,072(131K) 토큰의 컨텍스트 길이를 처리할 수 있어, 복수의 소스 코드 파일과 프로젝트 구조를 한 번에 프롬프트에 적재할 수 있습니다.
  • 저사양 하드웨어 친화성: 대규모 GPU 클러스터 없이도 단일 소비자용 그래픽 카드나 고성능 랩톱 환경에서 로컬 추론 및 서빙이 가능하도록 경량화되었습니다.
  • 다목적 에이전트 기반: 코드 생성뿐만 아니라 다단계 추론, 도구 호출, 언어 이해를 아우르는 에이전틱(Agentic) 파이프라인 구동을 목표로 설계되었습니다.

프론티어 증류 탈피: 1,500개 저장소 RL과 온라인 태스크 합성

이번 릴리즈의 가장 두드러진 기술적 특징은 학습 방법론에 있습니다.

기존의 수많은 소형 특화 모델들은 대형 상용 모델(GPT-4, Claude 등)의 출력을 모방하는 지식 증류(Knowledge Distillation)에 크게 의존해 왔습니다. 반면 연구진은 외부 프론티어 모델의 증류 데이터에 의존하지 않고, 1,500여 개의 실제 오픈소스 소프트웨어 엔지니어링 저장소를 대상으로 순수 강화학습(RL)을 적용하는 방식을 채택했습니다.

  • 온라인 태스크 합성 파이프라인: 체크포인트의 학습 가능 한계선(learnability frontier)에 맞춰 합성 과제를 동적으로 조율하고 생성하는 파이프라인을 구축했습니다. 모델이 학습을 진행함에 따라 점진적으로 난이도가 높은 코드 수정 및 버그 해결 태스크를 스스로 생성하여 학습합니다.
  • SWE-bench Verified 61.5% 달성: 실제 깃허브 저장소의 이슈와 버그 해결 능력을 평가하는 SWE-bench Verified 벤치마크에서 61.5%의 점수를 기록했습니다. 이는 기반 모델인 Qwen3.5-4B의 초기 점수인 39.4% 대비 22%p 이상 대폭 향상된 수치입니다.

이러한 실험적 결과는 소형 파라미터 모델이라도 자기 개선 루프와 정밀한 강화학습 설계가 뒷받침된다면 실질적인 소프트웨어 엔지니어링 작업을 자율적으로 수행할 수 있음을 실증합니다.

로컬 런타임 배포와 실무 도입 시 고려사항

FrogNano-4B-2609는 개방형 라이선스와 가벼운 용량 덕분에 로컬 개발 도구 연동에 높은 잠재력을 지니고 있습니다.

라이선스는 상용 이용 및 수정이 자유로운 Apache License 2.0으로 배포되어, 기업 내 자체 코딩 어시스턴트나 온디바이스 에이전트 파이프라인 구축에 제한 없이 활용할 수 있습니다.

다만 실제 프로덕션 워크플로우에 도입하기 전 검토해야 할 기술적 유의사항도 존재합니다.

  • 제3자 독립 벤치마크 검증: 공식 마케팅 발표 없이 모델 카드와 논문 중심으로 공개된 상태이므로, Artificial Analysis 리더보드나 LMSYS 아레나 등 공인된 외부 독립 기관의 실측 지표가 추가로 축적될 필요가 있습니다.
  • 멀티턴 ReAct 도구 호출 안정성: 4B급 경량 모델 특성상 단일 턴 질의나 제한된 범위의 코드 수정에는 기민하게 반응하지만, 복잡한 환경에서 연속 도구 호출(Tool calling)을 반복하는 ReAct 루프에서는 컨텍스트 드리프트가 발생할 가능성이 있습니다. Ollama, llama.cpp, vLLM 등 로컬 양자화 런타임에서의 도구 호출 안정성 실측이 권장됩니다.
  • 인간 코드 리뷰 필수: 마이크로소프트의 모델 카드 안내에 명시된 바와 같이, 모델이 생성한 코드 수정안과 패치는 프로덕션 브랜치에 반영하기 전 반드시 개발자의 직접 검토를 거쳐야 합니다.

출처