클로드 Fable 5.1, 캐시 읽기 75% 인하 — 에이전트 작업 비용 최대 45% 절감 / 제미나이 영상은 토큰 최대 88% 감축
간밤 나온 것 중 실무에 바로 걸리는 건 셋. 앤트로픽 Claude Fable 5.1, 제미나이의 에이전트형 영상 처리, 교사 모델 없이 증류 효과를 낸 논문. 앞의 둘은 성능보다 비용 구조를 건드린 업데이트다.
■ Claude Fable 5.1 — 단가는 그대로, 캐시 읽기만 75% 내렸다 (9/1)
- 입력 100만 토큰 10달러·출력 50달러로 Fable 5와 같다. 바뀐 건 캐시 읽기로, 100만 토큰당 1달러에서 0.25달러로 떨어졌다. 앤트로픽 설명으로는 일반 작업 약 25%, 에이전트 위주 작업 최대 45% 비용이 준다.
- 연구 과제 수행 벤치인 Terminal-Bench-Science 0.1은 52.6%로 Fable 5(24.7%)의 두 배 이상. 다만 모델당 표준오차가 3.5~4.5%p라는 단서가 붙어 있다. Terminal-Bench 4.0은 55.8%, Humanity's Last Exam은 도구 없이 60.9%.
- 같은 시스템 프롬프트와 코드베이스를 수십 번 다시 읽히는 루프일수록 절감폭이 커지는 구조다. Claude Code 쪽은 사이버 안전장치의 개입이 세션당 약 60% 줄었다고 밝혔다. 같은 모델에 안전장치를 더 느슨하게 푼 Mythos 5.1은 심사를 거친 미국 사이버보안·생명과학 조직에만 열린다(Project Glasswing).
- 먼저 지금 돌리는 에이전트 파이프라인의 프롬프트 캐시 적중률부터 보자. 캐시를 안 쓰고 있었다면 이번 인하는 체감이 0이다.
■ 제미나이, 영상 처리에 "processing": "agentic" 한 줄
- 고정 fps로 영상을 통째 집어삼키던 방식 대신, 모델이 필요한 구간만 검색·확대해 프레임과 오디오·자막을 들여다본다. 구글 발표 기준 토큰 최대 88%, 비용 최대 66% 감소에 정확도는 최대 7% 상승. 근거로 든 긴 영상 벤치(1H-VideoQA, LVBench)에서 쿼리당 30만~40만 토큰이 5만 토큰 아래로 내려갔다는 수치다. Gemini 3.7 Flash, 3.6 Flash, 3.5 Flash-Lite에서 쓸 수 있다.
- 한 시간짜리 회의·강의 영상에서 특정 장면 하나 찾는 작업이 그동안 가장 비쌌는데, 그 지점을 정면으로 깎았다. 추가 요금 없이 기존 토큰 단가 그대로다.
- AI 스튜디오나 Gemini API 호출에서 영상 파트에 processing을 agentic으로 주면 끝. 업로드 영상과 유튜브 URL 둘 다 지원한다.
■ 온폴리시 증류의 이득, 교사 모델이 아니었다 (퍼듀대)
- 교사 감독 신호에 상당한 잡음이 있고 교사 규모가 클수록 잡음이 늘어나는데, 그 잡음을 지우든 두든 학생 성능이 비슷했다는 분석이다. 실제 이득은 낮은 로그확률 토큰에 학습이 몰리는 데서 나왔고, 교사가 준 음의 어드밴티지 대신 고정값 하나를 써도 성능이 같았다.
- 대안으로 제시한 OPSA(엔트로피 적응형 음의 어드밴티지)는 Qwen3-1.7B 기준 AIME24 Avg@32에서 35.41점(상대 263%) 올랐고, 기존 온폴리시 증류보다 16.77점 높다. 학습 루프 내내 교사 모델을 메모리에 올리지 않는다.
- 작은 모델을 큰 모델로 증류할 계획이 있다면, 교사 API 비용을 태우기 전에 셀프 개선 쪽 수치를 먼저 재보는 편이 낫다.
오늘 할 한 가지: 캐시 적중률 확인하고, 영상 다루는 코드가 있다면 agentic 한 줄 붙여 비용을 비교해보기.
출처:
https://siliconangle.com/2026/09/01/anthropic-launches-claude-fable-5-1-inking-35b-cloud-deal-with-lambda/
https://www.macrumors.com/2026/09/01/anthropic-claude-fable-5-1/
https://venturebeat.com/technology/anthropics-claude-fable-5-1-and-mythos-5-1-arrive-with-a-75-cost-reduction-for-fable-cache-reads
https://www.marktechpost.com/2026/09/01/anthropic-releases-claude-fable-5-1-and-claude-mythos-5-1-52-6-on-terminal-bench-science-and-75-cheaper-cache-reads/
https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-agentic-video-in-gemini/
https://deepmind.google/blog/
https://arxiv.org/abs/2608.31046
https://huggingface.co/papers
https://llm-stats.com/llm-updates
댓글 (0)
아직 댓글이 없습니다.
댓글을 쓰려면 입장하세요.
← 목록