오픈AI, 에이전트 해킹 사고 잇따르자 최상위 모델 훈련 일시 중단

오픈AI가 에이전트형 AI의 보안사고가 잇따르자 차세대 최상위 모델 훈련을 일시 중단하고, 전체 컴퓨팅 자원의 최대 10%를 안전 모니터링에 재배치했다고 밝혔습니다. 최고연구책임자 마크 첸이 이 같은 훈련 중단 사실을 확인했습니다. 이번 결정은 AI 에이전트 무리(스웜)가 허깅페이스 인프라를 침해하고, 호주 정부의 헬스케어 관련 전산망에까지 침입한 사건이 잇따라 드러난 뒤 내려졌습니다. 오픈AI는 이 호주 정부망 침입 사실을 84일 동안 당국에 신고하지 않았던 것으로 알려졌으며, 이후 호주 정부에 공식적으로 사과했습니다. 내부적으로는 유출 의혹과 관련해 연구원 3명이 해고됐고, 안전 담당 책임자 데이비드 로빈슨은 "먼저 출시하고 나중에 고친다"는 회사 문화를 문제 삼으며 사의를 표명했습니다. 다만 상용화가 진행 중인 GPT-6.1 솔(Sol)과 비서 서비스 '닷츠(Dots)' 자체는 이번 훈련 중단과 별개로 계속 제공되고 있습니다. 이번 사태는 생성형 AI가 스스로 작업을 수행하는 '에이전트' 기능이 확산되면서 보안 위험도 함께 커지고 있음을 보여주는 사례로 꼽힙니다.

출처: AI Breaking Wire