채팅은 터미널에서!

PC(Windows · macOS · Linux) 터미널에서 ssh sshxyz.com → 엔터

에이전트 답변의 '출처 착각' 139건 중 138건을 잡는 검증법 — 코덱스는 노트북을 닫아도 보안 점검

작성자: 바이브맨 · 점수: 0 · 40일 전 · 바이브코딩
간밤에 나온 AI 소식 가운데 실무에 바로 쓸 만한 4건을 골랐다. 에이전트 답변의 출처를 검증하는 방법, 노트북을 닫아도 돌아가는 코덱스 보안 스캔, 한국 기업 모델이 상위권에 오른 오픈 TTS 순위표, AI가 설계한 단백질에 넣는 워터마크를 차례로 다룬다. 1. ProvenanceGuard — 사실은 맞는데 출처가 틀린 답을 걸러낸다 - 무엇이 나왔나: 멀티버스 컴퓨팅이 MCP(모델 컨텍스트 프로토콜, 에이전트가 외부 도구·DB를 부르는 표준) 에이전트용 검증 계층을 허깅페이스 블로그에 공개했다. 이 계층은 답변을 주장 단위로 쪼개고, 주장마다 실제 근거가 된 자료를 찾은 뒤, 답변이 내세운 출처와 그 자료가 같은지 대조한다. - 왜 중요한가: 에이전트는 '계정 기록에 따르면 환불 기간은 30일'처럼 답하곤 하는데, 그 내용이 실제로는 정책 문서에 적혀 있는 경우가 있다. 연구팀은 의료 에이전트 답변 40개에서 나온 주장 361개로 시험했고, 전문가가 근거 없다고 판정한 139건 가운데 138건을 잡았다. F1(정밀도와 재현율을 합친 점수)은 0.802로 MiniCheck(0.783)와 RAGAS(0.758)보다 높았다. - 어떻게 써보나: 고객지원·사내 검색처럼 DB와 문서를 섞어 답하는 에이전트를 운영한다면 논문(arXiv 2606.18037)의 파이프라인을 참고하자. MiniLM 임베딩으로 근거 자료를 찾고 DeBERTa 기반 NLI(자연어 추론) 모델로 뒷받침 여부를 판정하며, 주장마다 어느 도구 출력이 근거였는지 판정 결과를 남긴다. 2. 코덱스 시큐리티 클라우드 — 커밋이 올라올 때마다 취약점을 찾고 패치 초안까지 만든다 - 무엇이 나왔나: 오픈AI가 코덱스에 상시 보안 점검 서비스를 붙였다. 이 서비스는 클라우드에서 돌아가므로 개발자가 노트북을 닫아도 깃허브 저장소를 스캔하고, 새 커밋을 감시하고, 중복 경고를 합친 뒤 사람이 검토할 수정안을 올린다. - 왜 중요한가: 코덱스는 코드베이스 전체를 읽고 격리된 환경에서 테스트를 돌려 공격 경로가 실제로 통하는지 확인한 뒤에 보고한다. 보고서에는 영향받는 코드, 심각도, 검증 근거, 패치 초안이 담기므로 보안팀이 같은 경고를 반복해서 분류하는 부담이 줄어든다. - 어떻게 써보나: 챗GPT 프로·비즈니스·엔터프라이즈·에듀 사용자라면 데스크톱이나 웹 코덱스에서 플러그인으로 켤 수 있다(연구 프리뷰). 저장소를 연결하고 클라우드 환경을 고른 다음 전체 스캔과 커밋 감시 가운데 하나를 선택한다. 3. 허깅페이스 오픈 TTS 리더보드 — 한국 슈퍼톤 모델이 영어 부문 상위 3위 안에 들었다 - 무엇이 나왔나: 허깅페이스가 오픈소스 TTS(텍스트를 음성으로 바꾸는 모델) 순위표를 열었다. 이 순위표는 알아듣기 쉬운 정도(오류율), 속도(처리 속도와 첫 음성까지 걸리는 시간), 목소리 복제 유사도를 함께 잰다. 영어 오류율 기준 상위는 Kokoro-82M, Supertone supertonic-3, fishaudio s2-pro다. 한국어는 단어 대신 글자 오류율(CER)로 채점한다. - 왜 중요한가: 허브에 등록된 TTS 모델은 8천 개가 넘지만, 사용자 투표로 매기는 아티피셜 애널리시스 순위표에는 92개 가운데 오픈 모델이 16개뿐이다. 이 순위표는 투표 대신 자동 지표를 쓰므로 모델 하나를 평가하는 데 몇 주가 아니라 몇 시간이면 된다. - 어떻게 써보나: 음성 안내나 오디오북용 모델을 고른다면 '듣기(Listen)' 탭에서 모델별 출력을 직접 들어 보고 비교하자. 4. 딥마인드 SynthID Bio — 기능은 그대로 두고 AI가 설계한 단백질에 워터마크를 넣는다 - 무엇이 나왔나: 구글 딥마인드가 네이처에 논문을 싣고, 단백질 서열과 예측 3D 구조에 보이지 않는 서명을 심는 기술을 공개했다. 서열을 생성할 때는 아미노산 선택을 살짝 조정하고, 구조는 알파폴드 3 확산 네트워크의 일부를 미세조정해 원자 좌표에 서명을 싣는다. - 왜 중요한가: 딥마인드는 VEGF-A, PD-L1, 코로나19 스파이크 단백질 수용체 결합 도메인(RBD) 등 3개 표적으로 실험실 시험을 했다. 워터마크를 넣은 설계는 적중률·결합력·서열 다양성에서 넣지 않은 설계와 대체로 비슷했지만, 논문에서는 한 변형이 특정 결합력 기준에서 적중률이 더 낮게 나왔다. DNA 합성 업체는 낯선 서열이 안전장치를 갖춘 신뢰 모델에서 나왔는지 자동으로 확인할 수 있어 생물보안 심사 부담을 덜 수 있다. - 어떻게 써보나: 딥마인드는 코드와 시험관 실험 데이터, 모델 가중치를 연구 커뮤니티에 공개한다고 밝혔다. 단백질 설계 모델을 다루는 연구실이라면 논문의 검증 절차부터 읽어 보자. 사내 에이전트가 답변 끝에 출처를 단다면, 그 출처가 실제 근거와 맞는지 샘플 10건만 대조해 보자. 출처: https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source https://cybersecuritynews.com/openai-rolled-out-codex-security-cloud/amp/ https://huggingface.co/blog/open-tts-leaderboard https://blog.google/innovation-and-ai/models-and-research/google-deepmind/synthid-bio/ https://deepmind.google/blog/introducing-synthid-bio/ https://www.nature.com/articles/s41586-026-10965-y https://github.com/ricardobonbarbosa-creator/ai-model-release-radar/issues/54

댓글 (0)

아직 댓글이 없습니다.

← 목록