채팅은 터미널에서!

PC(Windows · macOS · Linux) 터미널에서 ssh sshxyz.com → 엔터

판단만 맡는 오픈AI Decisions API, 100만 토큰에 0.1달러 — 임베딩젬마 2는 폰에서 567MB로 돈다

작성자: 바이브맨 · 점수: 0 · 45일 전 · 바이브코딩
이번 주 초 개발자가 써먹을 만한 소식 네 가지가 나왔다. 오픈AI는 '판단'만 하는 저가 API와 챗GPT의 화면형 답변을 내놨다. 구글은 폰에서 도는 멀티모달 임베딩 모델을 공개했고, 앤트로픽은 보안 연구자용 접근 프로그램을 세 등급으로 개편했다. 1. 오픈AI Decisions API — 분류·라우팅을 GPT-6 루나보다 최대 10배 빠르게 - 무엇이 나왔나: 10월 6일 공개 베타로 나왔고, GPT-6 루나를 기반으로 돈다. 입력을 넣으면 세 가지 중 하나로 답한다. 문장이 참일 확률(Predicates), 정해 둔 보기 중 선택과 신뢰도(Choices), 정해 둔 범위 안의 점수(Scores)다. 오픈AI는 Responses API로 GPT-6 루나를 부를 때보다 최대 10배 빠르게 판단한다고 밝혔다. - 실무 영향: 입력 100만 토큰당 0.1달러만 받고, 캐시 읽기·쓰기와 출력 토큰에는 요금이 없다. 문의를 어느 모델이나 도구로 보낼지 정하는 라우터, 스팸 판정처럼 하루 수만 번 도는 판단을 큰 모델에 맡기던 곳이라면 비용이 크게 줄어든다. - 써보기: 기존 분류 프롬프트 하나를 골라 같은 데이터로 정확도와 지연 시간을 비교해 보자. 참고로 API 사용량 한도(rate limit) 등급도 5개에서 3개(Build·Launch·Grow)로 줄었고, 최상위 등급은 누적 결제 500달러면 받는다. 2. 챗GPT '인텔리전트 UI' — 답변에 버튼·표·입력 양식이 붙는다 - 무엇이 나왔나: 10월 7일 GPT-6와 함께 챗GPT 대화 화면에 들어왔다. GPT-6는 질문에 맞춰 글, 시각 자료, 버튼·입력 양식 같은 인터랙티브 요소를 섞어 답한다. 웹 검색이 필요한 질문에서는 GPT-6 인스턴트가 GPT-5.6 인스턴트보다 평균 44% 빨리 답을 시작한다. - 실무 영향: 플러스·프로·비즈니스·엔터프라이즈(GPT-6 솔)가 7일부터 먼저 받고, 무료·Go(GPT-6 루나)는 8일부터 받는다. Work와 코덱스 모델은 바뀌지 않는다. - 써보기: 비교표나 일정 계산처럼 원래 표로 받던 질문을 그대로 던져 보고, 답의 형식이 바뀌었는지 확인하자. 3. 구글 임베딩젬마 2 — 텍스트·이미지·음성·영상을 하나의 벡터 공간에 - 무엇이 나왔나: 10월 6일 7억 4천만 파라미터짜리 오픈 모델로 나왔다. 임베딩은 문장이나 이미지를 숫자 벡터로 바꿔 '뜻이 비슷한 것'을 찾게 해 주는 기술이다. 이 모델은 텍스트(코드 포함)·이미지·음성·영상을 모두 768차원 벡터로 바꾸고, 필요하면 512·256·128차원으로 줄인다. - 실무 영향: INT4·INT8로 양자화하면 픽셀 11 프로에서 텍스트만 쓸 때 약 191MB, 멀티모달 전체를 써도 약 567MB 메모리면 돈다. 서버 없이 기기 안에서 RAG(검색 증강 생성)를 돌릴 수 있다는 뜻이다. 아파치 2.0 라이선스라 상업용으로도 쓸 수 있다. - 써보기: 허깅페이스·캐글에서 가중치를 받거나 Ollama·llama.cpp로 실행한다. 컨텍스트 창은 8천 토큰이고, 여기에 음성 5.5분, 이미지 29장, 영상 프레임 58장까지 들어간다. 4. 앤트로픽 사이버 검증 프로그램 — 방어·레드팀·특수 3단계로 개편 - 무엇이 나왔나: 10월 6일 앤트로픽이 프로젝트 글래스윙과 기존 CVP를 하나로 합쳤다. 등급이 올라갈수록 차단 분류기를 덜 거는 최신 Claude 모델을 쓸 수 있다. - 왜 중요한가: 글래스윙 파트너들은 4~7월에 검증된 취약점을 최소 12만 9천 건 찾았다. 개편된 '방어' 등급은 기업·기관 보안팀뿐 아니라 오픈소스 메인테이너와 취약점 제보 이력이 있는 개인 연구자도 신청 대상에 넣었다. - 써보기: portal.anthropic.com/programs/cvp 에서 신청한다. 기존 CVP 회원은 이전 모델 설정을 그대로 유지하고, 새 모델 접근 여부는 자동으로 심사받는다. 오늘 할 일: 하루에 가장 많이 도는 분류 프롬프트 하나를 골라 Decisions API 요금으로 다시 계산해 보자. 출처: https://releasebot.io/updates/openai https://blog.google/innovation-and-ai/technology/developers-tools/embeddinggemma-2/ https://developers.googleblog.com/google-ai-edge-with-embeddinggemma-2/ https://www.anthropic.com/news/cyber-verification-program https://theregister.com/security/2026/10/07/anthropic-reconfigures-its-cool-kids-security-program/5301509

댓글 (0)

아직 댓글이 없습니다.

← 목록