채팅은 터미널에서!

PC(Windows · macOS · Linux) 터미널에서 ssh sshxyz.com → 엔터

NVlabs SoL-Pi, 코딩 에이전트 토큰 최대 49%↓ · API 비용 약 1/3↓ — 설치 명령 2줄

작성자: 바이브맨 · 점수: 0 · 63일 전 · 바이브코딩
최근 며칠 새 올라온 것 중 오늘 바로 만져볼 만한 건 세 개. 하네스 효율화 확장, 증류 응답이 길어지는 원인 규명, 옴니모달 모델의 물리 추론 실측. [1] SoL-Pi — 하네스만 갈아끼워 토큰 44.7~49.0% 절감 - 무엇: 엔비디아·NTU·MIT 공동 연구진이 코딩 에이전트 프레임워크 Pi용 확장으로 공개(저장소는 NVlabs). 자동 연구 루프를 여러 환경에 돌려 선별된 네 기능이 SoL-Pi다. 액션 실행·컨텍스트 압축·관찰 처리·위임 읽기에 각각 Action Fusion, Online Context Compact, ObservationPack, Evidence-Preserving Reducer. arXiv 2609.20519, MIT 라이선스, 저장소 2.4k★. - 왜 중요: 51개 과제 EdgeBench에서 GPT-5.6 Sol·Opus 5 기준 기록된 토큰 트래픽을 44.7~49.0%, API 비용을 약 1/3 줄였다. 성능은 Pi와 동일하진 않고 Pi 점수의 93.7%(GPT-5.6 Sol)·94.3%(Opus 5) 수준을 유지하는 정도다. 시간당 절감은 코덱스·클로드 코드 기본 하네스 대비 $8.75~13.50, Pi 대비 $4.36~5.71로 논문이 추정한다. 모델을 바꾸지 않고 하네스 쪽에서 비용을 깎는 접근이라는 점이 핵심. - 어떻게: Node 22.19 이상에서 `npm install --global @earendil-works/[email protected]` 후 `pi install git:github.com/NVlabs/SoL-Pi`. 네 기능 모두 기본 비활성이고, 문서 권장 시작 구성은 `sol-pi.json`에서 Action Fusion과 ObservationPack만 켜는 쪽이다. 추가 모델 호출이 없고 실행 중인 작업을 멈추지 않는 로컬 기능 둘이라서다. 원본 관찰값은 로컬에 남고 리듀서가 실패해도 원 결과가 그대로라 근거 추적은 유지된다. [2] 증류한 모델이 자꾸 길게 답하는 이유는 EOS 불일치 - 무엇: UNC 채플힐·마이크로소프트 등 공동 연구진이 온폴리시 증류(OPD)의 길이 팽창 원인을 종료 토큰 불일치로 지목했다(arXiv 2609.20511, 9월 17일 제출, 코드·프로젝트 페이지 공개). - 왜 중요: Qwen3·Llama·Gemma에서 선언된 stop 집합이 같아도 베이스 학생과 사후학습된 교사가 서로 다른 EOS 토큰에 종료 확률을 걸 수 있다. 학생이 선호하던 종료 행동은 억눌리는데 교사가 선호하는 대안은 안정적으로 전달되지 않아 응답이 늘어진다. 출력 토큰이 곧 비용인 서비스라면 원인 모를 장문화가 여기서 왔을 수 있다. - 어떻게: 디코딩 stop 집합만 맞추는 건 부족하다. 기능적으로 같은 역할을 하는 EOS 토큰들을 하나의 의미적 종료 행동으로 묶어 처리하면 세 모델 계열 모두에서 불일치로 인한 길이 팽창이 크게 완화됐다. 증류 파이프라인이 있다면 교사·학생의 실제 EOS 확률 분포를 먼저 찍어보는 게 순서. [3] MiniMax-H3 물리 세계 추론 성공률 41.97% - 무엇: 옴니모달 생성 모델 MiniMax-H3를 517개 인스턴스로 평가한 결과(arXiv 2609.18323). 암시적 프롬프트+다중 프레임, 오디오-이미지, 프리픽스 비디오, 오디오-비디오 네 축. - 왜 중요: 전체 41.97%. 세부는 영상 기반 의사결정 추론(VDR) 56.00%, 시청각 통합 추론(AVIR) 47.89%, 다시점 공간 추론(MSR) 43.50%, 오디오 기반 중의성 해소(ADR) 27.40%로 갈린다. 멀티모달 입력을 받는 것과 그 근거를 과제 성공으로 옮기는 것 사이 간극이 수치로 드러난다. 반복 실패 유형은 조건 근거를 엉뚱한 대상·행동에 붙이는 근거 정합 실패, 사건 미완성, 접촉·형상·상태 전이 같은 물리 법칙 위반, 시간적 불일치 네 가지. 비슷한 소리끼리 혼동하는 사례도 실패 패턴으로 제시됐다. - 어떻게: 오디오 단서로 판단이 갈려야 하는 기능은 모델 판단에 맡기지 말고 화면·텍스트 근거를 함께 요구하도록 설계하는 편이 안전하다. 가중치는 허깅페이스 MiniMaxAI/MiniMax-H3(커뮤니티 라이선스, 한국 등 일부 지역은 별도 신청 양식), 평가 프레임워크 코드는 gulucaptain/MiniMax-H3-Reason. 오늘 할 일 하나만 고르면, 에이전트 비용이 부담이던 쪽은 SoL-Pi를 브랜치 하나에서 Action Fusion만 켜고 같은 작업 두 번 돌려 토큰 로그를 비교해보자. 출처: https://arxiv.org/abs/2609.20519 https://github.com/NVlabs/SoL-Pi https://arxiv.org/abs/2609.20511 https://uncsciml.github.io/opd-eos-website https://arxiv.org/abs/2609.18323 https://github.com/gulucaptain/MiniMax-H3-Reason https://huggingface.co/MiniMaxAI/MiniMax-H3 https://huggingface.co/papers

댓글 (0)

아직 댓글이 없습니다.

← 목록