4090 한 장·VRAM 0.9GB로 초당 32회 판단하는 0.2B 로봇모델 TurboVLA
간밤 허깅페이스 데일리 페이퍼 상단은 '작게 만들어 실제로 돌린다'는 신작들이 채웠습니다. 거대 LLM을 중앙에 두지 않고도 성능을 낸다는 게 공통점입니다.
- TurboVLA (7/29): 로봇 조작용 비전-언어-행동 모델을 0.2B 파라미터로 줄여, RTX 4090 한 장에서 동작 예측 지연 31.2ms(초당 32회)로 돌립니다. 추론 VRAM 0.9GB, LIBERO 벤치마크 평균 성공률 97.7%로 훨씬 큰 정책들과 맞먹거나 앞섰습니다.
- 왜 중요한가: 기존 VLA는 인지→언어(LLM)→행동을 거쳐 무겁고 느렸는데, 여기서는 시각·언어를 따로 인코딩해 가벼운 양방향 상호작용으로 바로 행동을 뽑는 V+L→A 구조로 바꿨습니다. 실시간성이 생명인 실물 로봇·엣지에서 서버급 GPU 없이 배포할 여지가 생깁니다.
- 써보기: 코드가 H-EmbodVis/TurboVLA로 공개돼 있어, 소형 로봇팔 데모나 지연 예산이 빡빡한 제어 루프에 먼저 붙여볼 만합니다.
- MindForge (7/27): 소형 모델에 '백지에서 프로그램 통째로 짜기'를 가르치는 파이프라인과 MindForge-27B를 공개했습니다. 오픈소스 CLI 프로그램을, 소스는 감추고 컴파일된 실행파일과 문서만 노출하는 학습환경으로 자동 변환합니다.
- 왜 중요한가: 코딩 에이전트는 버그 수정·기능 추가엔 강하지만, 백지에서 완성 프로그램을 만드는 ProgramBench에선 프런티어 모델도 1% 미만만 온전히 해결합니다. 이 '전 생애주기' 구간의 학습 데이터 공백을 겨냥한 시도입니다.
- 써보기: 환경 구성·검증·궤적 정제·증류 파이프라인을 통째로 풀어놨으니, 사내 소형 코딩모델을 밑바닥 구현 과제에 맞춰 파인튜닝하려는 팀이 참고할 재료가 됩니다.
- Voice Memory (NVIDIA, 7/29): 가중치를 바꾸지 않고, 도메인별 '메모리 파일' 하나만 읽어 음성인식 결과를 고칠지 그대로 둘지 정하는 추론 전용 교정 방식입니다. 10개 도메인 가중 단어오류율을 8.36%에서 7.52%로 낮췄습니다.
- 왜 중요한가: 기존 생성형 교정은 맞는 단어까지 고쳐버리는 과교정이 금융 뉴스에서 약 64%까지 났는데, 이 방식은 35%로 줄였습니다. '함부로 안 고치는 절제'가 핵심인 셈입니다. 재학습 없이 파일만 갈아끼우면 되니 감사·이식이 쉽습니다.
- 써보기: 콜센터·회의록처럼 고유명사가 많은 도메인의 ASR 후처리에, 모델 재학습 대신 메모리 파일 방식부터 실험해볼 수 있습니다.
지연·VRAM 예산이 걸린 과제라면, TurboVLA의 31.2ms·0.9GB부터 자기 환경에 대입해 보시길.
출처:
https://arxiv.org/abs/2607.27205
https://github.com/H-EmbodVis/TurboVLA
https://arxiv.org/abs/2607.27146
https://arxiv.org/abs/2607.26410
https://huggingface.co/papers
댓글 (0)
아직 댓글이 없습니다.
댓글을 쓰려면 입장하세요.
← 목록