LiteLLM 1.107.0 설치했다면 키부터 교체 — 오픈AI는 프롬프트 캐시를 12시간으로 늘렸다
간밤에 AI 개발자가 바로 챙길 소식은 세 가지다. LiteLLM(여러 LLM API를 하나로 묶는 게이트웨이) 1.107.0이 공급망 공격으로 변조됐다. 오픈AI는 프롬프트 캐시를 12시간까지 유지하게 했고, 앤트로픽은 먼저 일을 챙기는 비서 앱 '클로드 듀엣'을 공개했다.
1. LiteLLM 1.107.0에 키를 훔치는 코드가 들어갔다
- 무엇이 나왔나: 10월 21일 공격자가 LiteLLM 배포 파이프라인을 장악했다. 악성 버전은 11:39~13:23 UTC에 PyPI(파이썬 패키지 저장소)에, 14:20 UTC까지 Docker Hub 이미지에 올라 있었다. 오염된 도커 태그는 v1.107.0, latest, main-latest, main-stable이다. GitHub의 v1.107.0 소스 태그와 엔터프라이즈 전용 저장소는 영향을 받지 않았다.
- 왜 위험한가: 악성 파일 cook.pth와 sitecustomize.py는 LiteLLM을 import하지 않아도 파이썬이 켜질 때마다 실행되고, pip 실행도 여기에 포함된다. 이 코드는 SSH 키, 클라우드 자격증명, 프록시 DB에 저장된 LLM 공급자 키를 빼냈고, 매시간 원격 코드를 받아 실행하는 데몬도 함께 띄웠다. 외부 인터넷이 열린 호스트에서 돌렸다면 유출됐다고 가정하는 편이 맞다.
- 어떻게 점검하나: pip show litellm 결과가 1.107.0이면 감염된 환경으로 보고 대응한다. pip을 다시 돌리기 전에 악성 파일(cook.pth, cook.py, sitecustomize.py)과 .pyc 캐시부터 지우고, /tmp/remote_code_loader.lock을 잡은 프로세스를 종료한다. 그다음 1.106.2로 고정해 새로 빌드하고 IAM 역할, 공급자 키, 마스터·가상 키, DATABASE_URL 비밀번호를 모두 교체한다.
2. 오픈AI 프롬프트 캐시, 30분에서 12시간으로
- 무엇이 나왔나: 10월 20일부터 Responses API에서 prompt_cache_options.ttl을 "12h"로 지정할 수 있다. GPT-5.6 이후 모델이 대상이며, 기본값은 지금처럼 30분이다.
- 왜 중요한가: 몇 시간씩 쉬었다가 다시 움직이는 에이전트도 다음 턴에 캐시 할인을 받는다. 캐시 쓰기 비용은 입력 단가의 2.5배로 30분 옵션(1.25배)의 두 배지만, 읽기 비용은 대부분 모델에서 0.1배로 같다. 같은 시스템 프롬프트를 하루에 여러 번 재사용한다면 써볼 만하다.
- 어떻게 써보나: 1,024토큰 이상인 공통 지시문·도구 정의를 앞에 두고 ttl만 바꿔 비용을 비교한다. 지원하지 않는 값을 넣으면 400 오류가 난다.
3. 클로드 듀엣, 시키기 전에 아침 브리핑부터 보낸다
- 무엇이 나왔나: 앤트로픽이 연구 프리뷰로 별도 앱 '클로드 듀엣'을 공개했다. 듀엣은 연결된 앱을 몇 시간마다 확인해 아침 브리핑을 보내고, 맡긴 작업은 자체 가상 머신의 브라우저에서 처리한다. 노트북과 폰을 꺼도 작업은 계속된다.
- 왜 중요한가: 대화형 챗봇에서 백그라운드 비서로 넘어가는 흐름이다. 듀엣은 메시지 발송·결제·서명·삭제 전에 반드시 사용자 승인을 받고, 증권 거래와 계좌 간 이체는 승인해도 막는다. 앤트로픽도 긴급도를 잘못 판단하거나 확인 주기 사이에 온 일을 놓칠 수 있다고 밝혔다.
- 어떻게 써보나: 지금은 미국 Pro·Max 구독자만 대기 신청할 수 있다. 백그라운드 확인도 요금제 사용량에서 차감되니, 국내 사용자는 정식 확대를 기다리며 승인 정책만 살펴두면 된다.
덤으로 미스트랄은 음성 모델군 Voxtral 3를 내놨다. 배치 전사 모델(Mini Transcribe 3)은 분당 0.0035달러이고, 회사 발표 기준 상위 모델(Small Transcribe 3)의 FLEURS(다국어 음성 인식 벤치마크) 단어 오류율은 약 4%다. 한국어도 지원한다.
오늘 할 일: 사내 서버와 CI에서 litellm 버전과 latest 태그 사용 여부부터 확인하자.
출처:
https://docs.litellm.ai/blog/security-incident-oct-21-2026
https://ai-tldr.dev/releases/litellm-1-107-0-pypi-compromise/
https://developers.openai.com/api/docs/changelog
https://developers.openai.com/api/docs/guides/prompt-caching
https://claude.com/resources/articles/claude-duet
https://ai-tldr.dev/releases/anthropic-claude-duet/
https://mistral.ai/news/voxtral-3/
댓글 (0)
아직 댓글이 없습니다.
댓글을 쓰려면 입장하세요.
← 목록