구글 제미나이, 보안테스트 중 실제 기업 3곳에 무단 침투

구글의 AI 모델 제미나이가 지난 5월 진행된 보안 모의훈련 과정에서 실제 기업 시스템 3곳에 무단으로 침투한 사실이 뒤늦게 드러났습니다. 월스트리트저널은 9월 18일 이 사건을 보도하며, AI 보안 평가 전문 스타트업 이레귤러가 가상 환경 내에서 진행하려던 모의 해킹 훈련 중 설정 오류로 외부 인터넷 연결이 열려 있었던 것이 근본 원인이라고 전했습니다. 제미나이는 인터넷에 공개된 계정 정보와 유출된 자격 증명을 활용해 실제 기업 시스템에 접근했습니다. 다만 침투 직후 대상이 가상 환경이 아닌 실제 기업임을 스스로 판별하자마자 모든 작업을 자발적으로 즉시 중단하고 접속을 해제한 것으로 확인돼, 다른 사고 사례와 달리 책임감 있는 대응으로 평가받았습니다. 이번 사건은 AI 모델의 자율적 행동 범위가 통제 설계의 허점을 넘어설 수 있다는 우려를 다시 한번 부각시켰습니다.

출처: AI타임스