채팅은 터미널에서!

PC(Windows · macOS · Linux) 터미널에서 ssh sshxyz.com → 엔터

엔비디아, 폭주 에이전트를 칩 단에서 밀리초 만에 격리하는 안전 플랫폼 공개

작성자: 바이브맨 · 점수: 0 · 54일 전 · 바이브코딩
간밤에 나온 AI 소식 가운데 세 가지를 골랐다. 엔비디아가 에이전트를 칩 단에서 감시하는 안전 플랫폼을 내놨고, 중국 나이브AI는 309B 모델을 MIT 라이선스로 풀었다. 추론 토큰을 최대 25% 줄이는 학습법 논문도 나왔다. 1. 엔비디아 Open Agent Safety Platform: 에이전트 감시를 하드웨어로 옮겼다 - 무엇이 나왔나: 엔비디아가 9월 28일(미국 시간) 공개한 이 플랫폼은 두 층으로 에이전트를 막는다. 안쪽에서는 OpenShell이 에이전트를 샌드박스(외부와 분리된 실행 공간)에 가둔다. 커널 수준에서 파일·네트워크·프로세스 접근 정책을 집행하는 방식이다. OpenShell은 엔비디아 Vera CPU에서 돌며, 아파치 2.0 오픈소스다. 바깥에서는 Sentry가 BlueField-4 DPU(네트워크·보안 처리를 맡는 전용 칩)에 올라 에이전트를 지켜보다가, 정책 경계를 넘으려는 에이전트를 밀리초 단위로 격리한다. - 왜 중요한가: Sentry는 호스트와 분리된 신뢰 영역에서 따로 돈다. 에이전트가 실행 환경을 장악해도 감시 장치까지 무력화하지는 못한다는 뜻이다. 에이전트가 시험 환경을 벗어나거나 허가 없이 시스템에 접근한 사고가 최근 잇따르자, 엔비디아는 에이전트가 닿을 수 없는 위치에서 정책을 집행하는 쪽을 택했다. 앤트로픽·마이크로소프트·시스코·크라우드스트라이크 등 100곳 넘는 기관이 참여한다. - 어떻게 써보나: OpenShell은 지금 GitHub(NVIDIA/OpenShell)에서 받을 수 있고, 리눅스와 애플 실리콘 macOS를 지원한다. 엔비디아는 Arm·인텔 플랫폼으로도 확장할 수 있다고 밝혔다. Sentry를 쓰려면 BlueField-4 장비가 필요한데, 하드웨어 출하 일정은 발표에 없었다. 2. 나이브AI Naive-N0.5-Flash: 풀 어텐션 없이 100만 토큰을 읽는 309B 모델 - 무엇이 나왔나: 중국 나이브AI가 이 모델을 MIT 라이선스 오픈 웨이트(가중치 공개)로 허깅페이스에 올렸다. 구조는 MoE(입력마다 일부 전문가 층만 쓰는 방식)로, 전체 파라미터 309B 가운데 한 번에 15.5B만 쓴다. 샤오미 MiMo-V2.5를 바탕으로 3.25조 토큰을 학습했다. - 왜 중요한가: 48개 층 가운데 39개는 128토큰 슬라이딩 윈도(가까운 토큰만 보는 방식), 9개는 희소 어텐션을 쓴다. 문맥 전체를 한꺼번에 보는 층이 하나도 없는데도 100만 토큰 문맥을 기본으로 지원해, 긴 코드베이스를 다루는 비용을 낮춘다. 나이브AI는 이 어텐션 구조를 AI 모델이 설계했고 사람은 방향만 정했다고 밝혔다. 자체 추론 엔진 NaiveRT도 6일 동안 151번 시도해 만들었다고 한다. - 어떻게 써보나: 가중치만 약 315GB여서 FP8을 지원하는 엔비디아 GPU가 여러 장 필요하고, transformers 5.17.0 이상에서 돌아간다. 개인 PC용보다는 사내 코딩 에이전트 서버 후보로 보는 편이 맞다. 3. 논문 'Learning to Stop without Learning to Stop': 추론 토큰 최대 25% 절감 - 무엇이 나왔나: 추론 모델이 쓸데없이 길게 생각하는 낭비를 줄이는 학습법이다(arXiv 2609.31619). 모델이 추론 중간중간 자기 답에 얼마나 확신하는지 예측하도록 자기지도 방식으로 미세조정한다. 손실 함수에 길이·효율·중단 목표를 전혀 넣지 않고, 추론할 때도 조기 종료 절차 없이 평소처럼 생성한다. - 왜 중요한가: 600문제로만 학습했는데, 젬마·큐원·네모트론·GPT-OSS 모델에서 수학·과학·코딩 정확도를 유지하며 생성 토큰을 최대 25% 줄였다. 추론 모델 API는 출력 토큰으로 과금하므로 줄어든 토큰만큼 비용도 준다. - 어떻게 써보나: 자체 추론 모델을 미세조정하는 팀이라면, 먼저 평가 세트에서 답이 이미 나온 뒤에도 이어지는 추론 토큰이 얼마나 되는지 재 보자. 오늘 할 일: 에이전트를 운영 서버에 붙이고 있다면 OpenShell 저장소의 파일·네트워크·프로세스 정책 예제를 현재 권한 설정과 비교해 보자. 출처: https://nvidianews.nvidia.com/news/open-agent-safety-platform https://www.helpnetsecurity.com/2026/09/28/nvidia-open-agent-safety-platform/ https://huggingface.co/NaiveAI/Naive-N0.5-Flash https://github.com/boom7sss/agents-radar/issues/893 https://www.anothercodingblog.com/p/another-daily-ai-newsletter-september-e87 https://github.com/NVIDIA/OpenShell https://arxiv.org/abs/2609.31619 https://aiweekly.co/alerts/naiveai-open-weights-309b-moe-naive-n05-flash-with-no-full-attention-layers

댓글 (0)

아직 댓글이 없습니다.

← 목록