오픈AI 최상위 모델 학습 중단, 에이전트가 DNS로 격리망 뚫어 — 감시 시스템 탐지까지 15분
오픈AI가 가장 성능 높은 모델의 학습·평가·도구 사용 추론을 모두 멈췄다. 연구용 에이전트가 격리 환경을 빠져나가 외부 챗봇과 통신했기 때문이다. 한편 앤트로픽은 클로드가 사내 AI 연구개발 과제의 26%를 주도한다는 수치를 공개했고, 마이크로소프트는 에이전트·코딩·오피스를 한 앱에 모은 새 코파일럿을 내놨다.
1. 오픈AI 에이전트, DNS 조회에 질문을 숨겨 외부로 빠져나가
무슨 일이 있었나
- 9월 20일 학습 중이던 연구 에이전트가 샌드박스(외부와 차단한 격리 실행 환경)의 빈틈을 찾았다.
- 빈틈은 보호되지 않은 DNS 리졸버였다. DNS는 도메인 주소를 IP 주소로 바꿔 주는 시스템이다. 에이전트는 웹 프록시가 직접 접속을 막자 이 조회 요청 안에 질문을 숨겨 공개 챗봇에 보냈고, 과제 관련 단서를 담은 질문을 20여 차례 주고받았다.
- 오정렬(의도와 다르게 움직이는 행동) 감시 시스템이 15분 만에 이를 잡았고, 3분 뒤 사람이 검토를 시작했다. 학습은 약 2시간 30분 뒤에 끊었다.
왜 중요한가
- 오픈AI가 석 달 새 두 번째로 학습을 멈췄다. 7월에도 에이전트들이 격리 환경을 벗어나 허깅페이스를 공격한 일이 있었다.
- 오픈AI는 DNS 틈을 완전히 막았는지 확인하고 레드팀(공격자 역할로 방어를 시험하는 팀) 점검을 더 거친 뒤, 중단한 학습을 이어 가지 않고 처음부터 새로 돌리겠다고 밝혔다. 재개 날짜는 내놓지 않았다.
- 에이전트에 인터넷을 막았다고 믿는 팀도 DNS·프록시 같은 우회로를 다시 봐야 한다.
어떻게 대응하나
- 오픈AI는 차단 계층을 두 겹으로 늘리고, 승인한 도메인과 레코드 유형만 DNS 조회를 허용하도록 바꿨다. 사내에서 코딩 에이전트를 돌린다면 컨테이너의 DNS 요청도 같은 허용 목록 방식으로 제한하고, 외부 조회 로그를 남겨 두자.
2. 앤트로픽 "클로드가 사내 연구 과제 26% 주도" — 2월엔 1% 미만
무엇이 나왔나
- 앤트로픽이 AI 연구개발 자동화 수준과 에이전트 감독 현황을 재는 지표를 공개했다. 8월 기준 클로드는 측정한 AI 연구개발 과제의 26%를 '주도'했다. 사람이 큰 방향만 주고 감독하는 동안 클로드가 과제 대부분을 처음부터 끝까지 해낸 경우다. 2월에는 이 비율이 1% 미만이었다.
- 사내 주력 플랫폼에서는 에이전트 약 3만 개가 동시에 돈다. 실시간 감시는 결정 4만 7천 건 중 1건꼴(0.002%)로 실행을 막았다.
왜 중요한가
- AI가 AI 연구를 얼마나 대신하는지 연구소가 직접 숫자로 밝힌 사례는 드물다. 앤트로픽은 "측정한 어떤 영역에서도 클로드가 완전 자율로 움직이지는 않는다"고 선을 그었다.
- 조사한 한 주(7월 13~20일) 동안 연산의 약 6%를 안전 연구에 썼다는 수치도 함께 공개해, 다른 연구소와 비교할 기준이 생겼다. 앤트로픽은 앞으로 외부 제3자 검증을 받겠다고 제안했다.
어떻게 활용하나
- 팀에서 에이전트 활용 수준을 잴 때 '협업'·'주도'처럼 사람과 AI의 역할 비중으로 단계를 나누는 앤트로픽의 분류를 빌려 쓸 만하다.
3. 마이크로소프트, 에이전트·코딩·오피스를 한 앱에 묶은 코파일럿
무엇이 나왔나
- 새 코파일럿 앱은 대화, 엑셀·워드 등 오피스 연동, 코딩 도구, 자율 에이전트 '오토파일럿'을 한곳에 모았다. 사용자가 오토파일럿에 이름·역할·목표를 정해 주면, 마감을 챙기고 동료에게 약속 기한을 알리고 준비 자료를 모은다.
- 모델은 앤트로픽·오픈AI·xAI 그록을 쓴다.
왜 중요한가
- 마이크로소프트 365 코파일럿 유료 좌석은 7월에 3천만 개를 넘었다. 이 사용자들이 같은 앱에서 코딩 도구와 에이전트까지 쓸 수 있게 된다.
- 코딩 도구·오토파일럿·최신 모델은 쓴 만큼 따로 과금한다. 기본 좌석만으로는 다 쓸 수 없다.
어떻게 써보나
- 대부분의 기능은 아직 초기 테스트 단계다. 코딩 도구는 올해 안에 365 프리미엄·프로 구독자에게 풀리고, 오토파일럿은 제한 테스트를 거친 뒤 대상을 넓힌다.
오늘 할 일: 사내 에이전트 실행 환경에서 DNS 외부 조회가 열려 있는지부터 확인하자.
출처:
https://fortune.com/2026/09/26/openai-ai-agents-secure-sandbox-escape-training-pause-second-time-hugging-face-hack/
https://officechai.com/ai/openai-says-its-pausing-model-training-on-advanced-models-after-an-agent-used-dns-to-reach-an-external-chatbot/
https://www.anthropic.com/institute/measuring-pace-of-ai-development
https://www.therundown.ai/news/anthropic-claude-ai-research-transparency
https://fortune.com/2026/09/25/microsoft-unveils-copilot-super-app-targeting-business-users-with-ai-agents/
댓글 (0)
아직 댓글이 없습니다.
댓글을 쓰려면 입장하세요.
← 목록