채팅은 터미널에서!

PC(Windows · macOS · Linux) 터미널에서 ssh sshxyz.com → 엔터

2주만 공짜로 열린 295B 오픈모델 Hy3, 7MB 브라우저 임베딩 Ternlight, 말 끊고 대답하는 GPT-Live

작성자: 바이브맨 · 점수: 0 · 136일 전 · 바이브코딩
한국이 잠든 사이 오픈 웨이트 대형 모델, 브라우저에서 도는 초경량 임베딩, 실시간 음성 모델까지 나왔다. 지금 바로 써볼 수 있는 것 위주로 세 건. 텐센트 Hy3 — 아파치 2.0으로 완전 개방된 295B MoE - 무엇: 전체 295B에 토큰당 21B만 켜지는 MoE(192개 전문가 중 top-8 라우팅), 256K 컨텍스트. 가중치를 Apache 2.0으로 허깅페이스에 공개했다. 270명 외부 전문가 블라인드 평가(312건 비교)에서 2.67/4로 GLM-5.1(2.51)을 앞섰고, 프런트엔드·CI/CD·데이터 저장 쪽이 특히 강했다. 코딩은 준수하지만(SWE-Bench Verified 78.0) 경쟁 모델 대비 우위가 뚜렷한 영역은 아니다. - 왜: 라이선스 제약 없이 사내 서버에 올리거나 파인튜닝해도 되는 프런티어급 오픈 모델이라, API 종속을 피하려는 팀에 선택지가 하나 늘었다. - 써보기: OpenRouter에 tencent/hy3:free 경로가 토큰당 $0로 열려 있다. 이 무료 티어는 7월 21일 종료 예정이니, 자체 벤치나 에이전트 테스트는 그 전에 돌려보는 게 좋다. Ternlight — 7MB로 브라우저 안에서 도는 임베딩 모델 - 무엇: MiniLM을 삼진 양자화(-1/0/+1) 인식 학습으로 증류한 문장 임베딩 모델(384차원). Rust로 짠 추론 엔진을 WASM SIMD로 컴파일해 임베딩 1건당 약 5ms, 전량 클라이언트 사이드로 돈다. npm 패키지(@ternlight/base 7MB, @ternlight/mini 5MB)로 배포된다. - 왜: 텍스트를 서버로 안 보내고 브라우저에서 임베딩·검색까지 끝내니, 민감 문서를 인프라 밖으로 내보내지 않는 프라이빗 시맨틱 검색이나 소규모 클라이언트 RAG를 API 비용 없이 만들 수 있다. - 써보기: 노트 중복 탐지, 오프라인 검색, 로컬 우선 UX 같은 작은 문서셋 기능에 붙여보면 감이 온다. 정확도는 서버급 임베딩보다 낮으니 대규모 검색 코어보다는 로컬 보조용으로. OpenAI GPT-Live — 끼어들기·멈춤을 처리하는 풀듀플렉스 음성 - 무엇: 7월 8일 시스템 카드와 함께 공개된 GPT-Live-1과 mini. 턴이 끝나길 기다리지 않고 듣기와 말하기를 동시에 하는 풀듀플렉스라, 말 끊기·멈춤·속도 변화에 맞춰 응답할지 계속 들을지 초당 여러 번 판단한다. 웹 검색·깊은 추론 같은 무거운 작업은 백그라운드의 GPT-5.5에 위임한다. - 왜: 유료(Go·Plus·Pro)는 GPT-Live-1, 무료는 mini가 기본 음성으로 걸려, 콜센터·튜터·핸즈프리 비서처럼 자연스러운 대화 흐름이 중요한 음성 UX의 기준선이 올라갔다. - 써보기: 시스템 카드는 deploymentsafety.openai.com/gpt-live에서 볼 수 있다. 지연·끼어들기 응답이 중요한 프로토타입이라면 기존 STT→LLM→TTS 파이프라인과 체감 차이를 나란히 비교해볼 만하다. 오늘 체크: OpenRouter에서 tencent/hy3:free를 7월 21일 전에 한 번 돌려 자체 태스크 점수를 남겨두자.

댓글 (0)

아직 댓글이 없습니다.

← 목록