채팅은 터미널에서!

PC(Windows · macOS · Linux) 터미널에서 ssh sshxyz.com → 엔터

터미널벤치 86.6·1M 컨텍스트 Qwen3.8-Max, 다음 주 오픈웨이트 — 입력 100만 토큰당 $2(약 2600원)

작성자: 바이브맨 · 점수: 0 · 110일 전 · 바이브코딩
간밤 중국발 프런티어 모델이 또 풀렸다. 알리바바가 8월 3일 Qwen3.8-Max를 공개했고, 앞서 문샷은 Kimi K3 가중치를 열었다. 오늘은 신모델 둘과 기억 분리 연구 하나로 정리한다. 1) Qwen3.8-Max — Max급이 처음으로 오픈웨이트로 - 무엇: 2.4조 파라미터 MoE, 1M 컨텍스트(입력 최대 99.1만 토큰). 터미널벤치 2.1에서 86.6으로 Claude Opus 4.8(84.6)을 넘어섰고 GPT-5.6 Sol(88.8) 바로 아래다. GPQA Diamond 92.6, PaperBench 93.0, 비전은 OSWorld-Verified 86.1·OmniDocBench 1.5 92.1, 에이전트 코딩 지표 DeepSWE 1.1은 56.6. - 왜: API에만 있던 Qwen-Max 계열이 처음으로 가중치를 공개할 예정이라, 사내 서버에 프런티어급을 올릴 선택지가 생긴다. 가격은 입력 100만 토큰당 $2·출력 $6, 캐시 입력 $0.25로 프런티어 대비 저렴한 편. - 어떻게: 지금은 Qwen Chat·DashScope·OpenAI 호환 API로 바로 쓸 수 있고, 경량 27B 가중치는 다음 주 허깅페이스 공개 예정이다. 긴 문서 분석·에이전트 파이프라인부터 붙여볼 만하다. 2) Kimi K3 오픈웨이트 — 오픈 모델 중 지능 지수 1위 - 무엇: 문샷의 2.8조 MoE(토큰당 896개 중 16개 전문가, 활성 104B)를 7월 27일 허깅페이스에 공개했다. Kimi Delta Attention으로 100만 토큰 컨텍스트 디코딩이 최대 6.3배 빨라지고, Attention Residual은 연산을 2% 미만만 더 쓰면서 학습 효율을 약 25% 개선했다. - 왜: 아티피셜애널리시스 인텔리전스 인덱스 57점으로 Fable 5·GPT-5.6 Sol에 이어 종합 3위(Opus 4.8과 동급), 오픈웨이트 중에서는 1위다. API 가격은 입력 $3·출력 $15, 캐시 입력 $0.30으로 상용 프런티어보다 낮다. - 어떻게: 공식 API로 호출하거나 허깅페이스 가중치를 받아 자체 서빙. 100만 토큰급 문서·장기 에이전트 워크로드에서 디코딩 속도 이점이 크다. 3) Memory Decoder at Scale — 기억을 파라미터로 떼어내기 - 무엇: 장기기억을 별도 파라미터로 분리해 6.9B '기억 모듈'을 300B 토큰으로 사전학습한 뒤 작은 Pythia-410M에 붙였다. 17개 벤치 평균이 29.86에서 37.34로 올라, 총 파라미터를 39% 덜 쓰고도 Pythia-12B(37.24)를 앞섰다. - 왜: 기본 모델을 통째로 키우는 대신 기억용 파라미터만 늘리는 쪽이 파라미터 대비 성능이 낫다는 결과다. '작은 베이스 + 교체 가능한 기억 모듈' 조합의 근거가 된다. - 어떻게: arXiv 2607.27919와 공개 코드로 확인. 소형 모델에 도메인 지식을 얹을 때 RAG 대안으로 검토해볼 지점이다. 오늘은 Qwen3.8-Max를 Qwen Chat에서 한 번 굴려 보고, 다음 주 오픈웨이트 공개일에 맞춰 27B 경량판 자체 서빙 가능 여부를 미리 재두면 좋겠다. 출처: https://www.marktechpost.com/2026/08/03/alibaba-qwen-releases-qwen3-8-max/ https://siliconangle.com/2026/08/03/alibaba-debuts-qwen3-8-max-model-2-4t-parameters/ https://www.neowin.net/news/alibaba-releases-qwen38-max-challenging-gpt-56-sol-and-claude-fable-5-on-ai-benchmarks/ https://huggingface.co/blog/ResterChed/kimi-k3-model-overview-mxfp4-quantization-open-wei https://artificialanalysis.ai/articles/kimi-k3-achieves-3-in-the-artificial-analysis-intelligence-index-comparable-to-opus-4-8-and-gpt-5-5 https://arxiv.org/pdf/2607.24653 https://arxiv.org/abs/2607.27919 https://huggingface.co/papers/trending

댓글 (0)

아직 댓글이 없습니다.

← 목록