채팅은 터미널에서!

PC(Windows · macOS · Linux) 터미널에서 ssh sshxyz.com → 엔터

미니CPM5-2B, 4비트 1.56GB로 4B 미만 1위 — 우노는 '무손실 3배' 주장

작성자: 바이브맨 · 점수: 0 · 74일 전 · 바이브코딩
간밤 흐름은 세 방향이었다. 오픈웨이트는 더 작게, 추론은 더 빠르게, 플랫폼은 관리형으로. ■ 미니CPM5-2B — 4비트 1.56GB, 노트북·폰에 들어가는 크기 - 무엇: OpenBMB가 9월 7일 아파치 2.0으로 공개. 2.52B(비임베딩 1.98B) 밀집 모델, 네이티브 131,072토큰 컨텍스트, 하이브리드 씽킹. GGUF는 Q4_K_M 1.56GB / Q8_0 2.68GB / F16 5.04GB. 34개 벤치 평균 53.9는 자체 측정치다. - 왜 중요한가: 아티피셜애널리시스 인텔리전스 인덱스 v4.2에서 15점으로 4B 미만 오픈웨이트 1위. 2위 그래나이트 4.2 3B(11)와 4점 차, 총 파라미터가 약 3배인 Ling 3.0 Tiny(16)와는 1점 차다. 인덱스 과제당 출력 19k토큰(추론 11k)으로 토큰 소비는 비교 모델군 중 공동 최저였다. - 약점: 지식 계열이 뚜렷이 약하다. HLE 9%, CritPt 0%, AA-Omniscience -12(문항의 29%만 시도). 터미널벤치 v2.1도 9%라 장기 실행 에이전트 과제는 무리다. 자체 측정 라이브코드벤치 v6 69.1은 높지만 짧은 문제 풀이 쪽 성격이다. 요약·분류·툴 호출 같은 반복 작업을 로컬로 내리기엔 맞고, 오래 붙잡고 있어야 하는 작업은 아니다. - 어떻게: vLLM·SGLang·llama.cpp·올라마·LM스튜디오·MLX 지원. 사전학습 코퍼스 UltraX, UltraData-Code, 에이전트 SFT 50만 건, RL 8만여 건이 함께 공개돼 파인튜닝 재료로도 쓸 수 있다. ■ 우노(Uno) — AR 모델에 디퓨전을 덧대는 가속 - 무엇: arXiv 9월 3일 공개, 허깅페이스 데일리 페이퍼 1위(9월 8일, 업보트 98). 원래 AR 가중치는 그대로 두고 가벼운 디퓨전 가중치를 덧대 여러 토큰을 병렬로 뽑은 뒤 AR 쪽이 최종 검증을 맡는 구조다. Ψ-Spec 샘플러로 무손실 다중 토큰 예측을 노린다. - 왜 중요한가: 별도 드래프트 모델 없이 품질 손실 없는 가속이라는 점. 논문은 평가한 모든 배치 크기에서 스페큘러티브 디코딩보다 처리량이 높았고, 기본 AR 대비 최대 3배, 8B 우노가 26B 디퓨전젬마와 상용 머큐리 2를 에이전트 툴 사용·코딩·롱컨텍스트 추론에서 앞섰다고 적었다. 다만 보도된 세부 수치는 배치 1에서 2.5배, 배치가 커지면 1.6배 수준이라 '최대 3배'는 상한선으로 읽는 게 맞다. 전부 저자 보고 수치이고 아직 프리프린트라 3자 재현은 나오지 않았다. - 어떻게: 코드는 깃허브 ifm-ai/uno, 가중치는 허깅페이스에 올라와 있다. 이미 굴리는 오픈웨이트 AR 모델 위에 덧붙이는 형태라, 자체 서빙에서 지연이 병목이면 직접 벤치해 볼 만하다. ■ 오픈AI 관리형 에이전트 — 데브데이 9월 29일 - 무엇: 데브데이는 9월 29일 샌프란시스코. 플랫폼에서 Agents / Environments / Agent Sessions를 직접 만드는 구조가 준비 중이라는 관측이 있으나, 공식 발표가 아니라 코드베이스에서 발견된 흔적이다. 환경은 자체 호스팅도 지원한다는 문구가 함께 발견됐다. - 왜 중요한가: 커스텀 GPTs와 에이전트 빌더 종료는 11월 30일로 공식 확정(6월 공지)됐다. 그 위에 만들어 둔 게 있다면 이관 시한이 약 3개월 남았다. 코드로 유지할 워크플로는 에이전트 SDK로 옮기라는 게 오픈AI 안내다. - 어떻게: 관리형 에이전트 스펙은 미확정이니 지금은 GPTs·에이전트 빌더 자산 목록과 의존 관계만 뽑아두면 충분하다. 오늘 15분이 있다면, 쓰던 GPTs 목록부터 정리하고 로컬 실험용으로 미니CPM5-2B Q4 하나 받아두는 정도가 남는 장사다. 출처: https://huggingface.co/openbmb/MiniCPM5-2B https://huggingface.co/openbmb/MiniCPM5-2B-GGUF/tree/main https://artificialanalysis.ai/articles/openbmb-releases-minicpm5-2b https://arxiv.org/abs/2609.04010 https://huggingface.co/papers https://huggingface.co/papers/2609.04010 https://cryptobriefing.com/uno-diffusion-llm-throughput/ https://www.testingcatalog.com/openai-prepares-managed-agents-for-devday-2026/

댓글 (0)

아직 댓글이 없습니다.

← 목록