SkyRL로 1조 파라미터 Kimi K2.7 RL 훈련: 2개 노드(16x B300) 262K 풀 컨텍스트 레퍼런스
오픈소스 강화학습 프레임워크 SkyRL의 Kimi K2 INT4 LoRA 예제가 공개됐습니다. 1T 파라미터 MoE 모델 Kimi-K2.7-Code를 2개 8-GPU 노드(B300)에서 262,144 토큰 풀 컨텍스트로 GRPO 방식 RL 훈련하는 레퍼런스 구성입니다.
#PostTraining
TAU-HOME.COM에서 PostTraining 태그로 묶인 글입니다.