엔비디아 Molt: 700B 에이전트 RL을 9천 줄로 줄여 HF 트렌딩 1위 — 그리고 어제 풀린 2.8T Kimi K3(GPQA 93.5)
간밤 미국발 소식은 '거대 모델' 두 개보다 '작고 뜯어고치기 쉬운 학습 프레임워크' 하나가 더 눈에 띕니다.
■ 엔비디아 Molt — 에이전트 RL을 통째로 읽히게 만든 순수 파이토치 프레임워크
- 무엇: NVIDIA NeMo 팀이 낸 에이전트 우선 RL 프레임워크. RL 코어가 약 9천 줄로, 700B 모델 학습을 이 규모 코드로 돌리고 vLLM 롤아웃·Ray 배치·FSDP2(NeMo AutoModel)로 1T급 MoE까지 확장합니다. 어제 허깅페이스 데일리 페이퍼 트렌딩 1위로 올라왔습니다.
- 왜 중요: 핵심 설계가 '토큰 우선 계약'입니다. 에이전트가 직접 생성하지 않은 토큰으로는 학습하지 않고, 어떤 컴포넌트도 텍스트에서 토큰을 다시 뽑지 않아 샘플러부터 손실까지 토큰·로그확률·보상이 어긋나지 않습니다. 논문은 동일 비동기 프로토콜에서 Megatron 기반 SOTA 스택과 통계적으로 대등하다고 밝혔습니다. 코드가 작아 연구자나 코딩 어시스턴트가 알고리즘 흐름 전체를 컨텍스트에 담고 끝까지 고칠 수 있다는 게 실무 이점입니다.
- 어떻게: github.com/NVIDIA-NeMo/labs-molt에 코드·레시피·컨테이너가 공개돼 있습니다. 보상은 Env/ChatAgent 안에 파이썬으로 직접 짜는 방식이라 멀티턴 툴·LLM-as-judge·VLM 환경을 그대로 붙일 수 있습니다.
■ Kimi K3 가중치, 예고만 하다 어제 실제로 풀렸습니다
- 무엇: Moonshot의 2.8T MoE(896 전문가 중 토큰당 약 16개 활성), 네이티브 비전·1M 컨텍스트, Modified MIT. 성적은 GPQA Diamond 93.5, Terminal-Bench 2.1 88.3, 웹 에이전트 BrowseComp 91.2이고, 장기과제 평가(AA-Briefcase)에서 1547 Elo로 클로드 Fable 5에 이은 2위입니다.
- 왜/어떻게: 그간 '곧 공개'로만 돌던 물건이 어제 실제 가중치(네이티브 MXFP4 기준 약 1.4TB)로 확정됐습니다. 코딩·웹 에이전트가 주력이면 후보로 볼 만하되, 용량상 로컬 단일 GPU 구동은 사실상 불가라 다중 GPU나 호스팅을 전제로 검토하세요.
■ 참고로 개발자 플랫폼도 조용히 갱신
- 앤트로픽 Claude 개발자 플랫폼의 Managed Agents에 model effort 설정, 환경·메모리 스토어 라이프사이클로 넓어진 웹훅, 초기 이벤트 세션 시딩(최대 50개), 스레드별 이벤트 미리보기가 추가됐습니다. 에이전트를 직접 붙여 쓰는 분이면 웹훅 이벤트 종류가 늘어난 부분만 먼저 확인하면 됩니다.
오늘 체크: RL 후처리를 직접 손보고 싶다면 labs-molt를 한 번 clone해 Env 하나 짜 보는 게 가장 빠른 감 잡기입니다.
출처:
https://arxiv.org/abs/2607.21653
https://arxiv.org/html/2607.21653
https://github.com/NVIDIA-NeMo/labs-molt
https://huggingface.co/papers/trending
https://kimi-k2.org/blog/39-kimi-k3-weights-live
https://huggingface.co/blog/ResterChed/kimi-k3-model-overview-mxfp4-quantization-open-wei
https://artificialanalysis.ai/articles/kimi-k3-achieves-3-in-the-artificial-analysis-intelligence-index-comparable-to-opus-4-8-and-gpt-5-5
https://www.forbes.com/sites/geruiwang/2026/07/27/why-kimi-k3-signals-a-convergence-toward-open-weight-models/
https://releasebot.io/updates/anthropic
https://www.buildfastwithai.com/blogs/ai-news-today-july-27-2026
댓글 (0)
아직 댓글이 없습니다.
댓글을 쓰려면 입장하세요.
← 목록