채팅은 터미널에서!

PC(Windows · macOS · Linux) 터미널에서 ssh sshxyz.com → 엔터

K2 호라이즌 6종 아파치 2.0 공개(0.9B~375B) — '완전 공개'는 체급마다 온도차, KV 캐시 무작위 축출로 처리량 32~43%↑

작성자: 바이브맨 · 점수: 0 · 78일 전 · 바이브코딩
간밤 소식은 '더 큰 모델'보다 '같은 모델을 싸게 굴리는 법'에 몰려 있다. 네 가지만 추린다. 1) K2 호라이즌 — 0.9B~375B 6종, 가중치·코드 아파치 2.0 무엇이 나왔나: MBZUAI 산하 IFM이 9월 3일 공개했다. 덴스 0.9B·3.7B·7B·32B에 스파스 MoE 36B(활성 4B)·375B(활성 23B)를 더한 6종이다. 체급별 용도는 0.9B가 워치·글래스 같은 초제약 환경, 3.7B·7B가 폰 등 온디바이스, 32B와 36B-A4B가 로컬 호스팅·온프레미스, 375B-A23B가 엔터프라이즈 배포다. 가중치와 코드는 아파치 2.0. 먼저 확인할 것: '완전 공개'의 실제 상태는 체급마다 다르다. 데이터·학습 레시피·중간 체크포인트까지 지금 다 나온 건 3.7B와 7B다. 375B와 36B는 최종 가중치만 공개됐고 중간 체크포인트·데이터·학습 코드는 모델 카드에 '추후 공개'로 적혀 있다. 32B는 아직 1단계 체크포인트다. 학습 데이터 공개도 재배포 라이선스가 허용하는 범위까지다. 왜 중요한가: 가중치만 여는 '오픈웨이트'와 달리 학습 데이터가 함께 열리는 만큼은 사내 재현·감사·재학습 경로가 생긴다. IFM은 0.9B·3.7B·7B가 각 체급 SOTA라고 주장하는데, 자체 발표 기준이다. 어떻게 써보나: 허깅페이스에 올라와 있고 vLLM·SGLang에서 서빙된다. 분류·요약처럼 호출량 많고 난이도 낮은 작업부터 3.7B나 7B로 옮겨 비용을 비교해보는 게 현실적이다. 2) 랜덤 어텐션 — 점수 계산을 없앴더니 처리량 32~43% 증가 무엇이 나왔나: 세일즈포스 AI 리서치. 기존 KV 캐시 압축은 토큰마다 '나중에 얼마나 쓸지' 점수를 매겨 상위를 남기는데, 이 논문은 프롬프트만 보존하고 나머지는 어텐션 헤드별로 무작위 축출한다. 점수를 아예 계산하지 않는다. 모델 4종·추론 과제 6종에서 최강 기존 축출기와 동급 성능, vLLM 배포 기준 처리량은 32~43% 높았다. 왜 중요한가: 긴 사고 사슬에서 KV 캐시가 메모리 병목인데, 정작 선택 신호는 기여가 거의 없더라는 결과다. 논문 설명으로는 취약한 건 프롬프트이고(축출기 간 성능 차이 대부분이 프롬프트를 우연히 남겼는지 여부), 추론 트레이스는 텍스트 안에서(모델이 필요한 걸 계속 재진술) 그리고 헤드 간에(각자 사본 보유) 이중으로 중복돼 스스로 보호된다. 어떻게 써보나: 코드가 아파치 2.0으로 공개돼 있고 vLLM 연동과 효율 벤치마크 스크립트가 들어 있다. 자체 vLLM을 운영 중이면 현재 축출 정책과 A/B로 처리량·정확도만 재봐도 판단이 선다. 3) 터미널-유니버스 — 에이전트 로그를 실행 가능한 환경 3.7만 개로 무엇이 나왔나: 큐원 팀. 궤적에 남은 파일 조작을 되감아 에이전트가 건드리기 전 작업공간을 복원하고, 거기서 새 과제를 합성해 '과제 수행에 충분한' 환경 37.3k개를 만들었다. 여러 코드베이스와 사용자 피드백이 오가는 멀티라운드 세션으로도 확장했다. 이 코퍼스로 Qwen3.5-27B를 SFT하니 터미널벤치 2.1 단일 라운드 +11.9점, EvoCode-Bench v2 MT@4 +13.8점. 왜 중요한가: 궤적은 한 번 보고 끝나는 시연이지만 환경은 새 과제를 계속 뽑아내고 실행 피드백을 준다. 사내에 쌓인 코딩 에이전트 실행 기록이 학습 자산이 될 수 있다는 방향이다. 어떻게 써보나: 당장 재현할 계획이 아니어도, 에이전트 실행 로그에 파일 조작 이력과 셸 상태를 남기도록 로깅부터 켜두면 나중에 선택지가 생긴다. 4) 컴파일 바이 트레이닝 — 반복 호출을 작은 로컬 함수로 굳히기 무엇이 나왔나: 워털루대 중심 연구진(EMNLP 2026 시스템 데모). 자연어 명세를 넣으면 교사 모델이 과제별 예제를 만들고, 그걸로 소형 인터프리터의 어댑터를 학습시켜 재사용 가능한 '신경 함수'를 뽑는다. 기존 고속 컴파일러가 정확히 맞춘 게 0개였던 FuzzyBench-Hard에서 의미 정확도 83.6%. 대신 컴파일이 수 초가 아니라 약 1분 걸린다. 왜 중요한가: 규칙으로 짜긴 애매한데 매번 대형 원격 모델을 부르는 작업(분류·정규화·톤 변환)에서 호출 비용·지연·벤더 종속을 한 번에 끊는다. 결과물은 파일처럼 저장·버전 관리·조합이 된다. 어떻게 써보나: 저자들이 공개 인터랙티브 데모(programasweights.com)로 컴파일러를 돌려볼 수 있게 해뒀다. 하루 수천 건 도는 짧은 프롬프트 하나를 후보로 골라 시험해보면 된다. 덧붙여, 코딩 에이전트 세션 16,893건을 측정한 자료(공개 검증분은 코드베이스 51곳의 5,292건)에 따르면 클로드 코드·코덱스·커서가 같은 칸에서 같은 도구를 고른 비율은 42%였다. 근거도 갈렸다. 코덱스는 세션의 94%에서 웹 검색을 썼고, 클로드 코드는 약 30%로 학습 데이터에 더 기댔다. 에이전트가 고른 라이브러리를 그대로 믿기 전에 한 번 볼 여지가 있다. 오늘 딱 하나만 한다면, 반복 호출 상위 3개 프롬프트의 일일 호출 수부터 뽑아두자. 위 방법 중 무엇이 이득인지는 그 숫자가 정한다. 출처: https://www.hpcwire.com/aiwire/2026/09/03/institute-of-foundation-models-releases-fully-open-k2-horizon-models-with-weights-code-and-training-data/ https://ifm.ai/k2/press-release/ https://www.prnewswire.com/news-releases/institute-of-foundation-models-launches-the-industrys-largest-fully-open-source-fleet-of-ai-models-complete-with-weights-code-training-data-and-methodologies-302868628.html https://cellcog.ai/blog/k2-horizon/ https://arxiv.org/abs/2609.03430 https://github.com/SalesforceAIResearch/Random-Attention https://arxiv.org/abs/2609.04148 https://arxiv.org/abs/2609.04199 https://huggingface.co/papers/date/2026-09-04 https://armature.tech/blog/which-tools-coding-agents-install

댓글 (0)

아직 댓글이 없습니다.

← 목록