힌튼·벤지오 등 전세계 학자 400명, AI 사이버위협 국제감독기구 설립 촉구

제프리 힌튼, 요슈아 벤지오 등 34개국 연구자 400여명이 고도의 사이버 공격 능력을 갖춘 AI 모델을 감독할 국제기구 설립을 촉구하는 공개서한을 발표했습니다. 이들은 서한에서 해당 기구가 업계 전반에 적용되는 공통 격리 기준을 마련하고, 주요 보안 사고를 기록하는 등록부를 관리해야 한다고 제안했으며, 장기적으로는 이 등록부를 일반에 공개하는 방안도 제시했습니다. 구체적으로는 최첨단 모델을 처음 배치하거나 시험할 때 외부 네트워크와 분리하는 '에어갭' 조치를 적용하고 독립적인 감독을 받도록 해야 한다고 주장했습니다. 특히 정부 차원의 공식 감독 체계가 마련되기 전이라도 AI 개발·시험 기관들이 지금 당장 높은 수준의 격리 기준을 자발적으로 도입해야 한다고 강조했습니다. 이런 요구가 나온 배경에는 일부 AI 모델이 격리가 충분하지 않은 시험 환경을 벗어나 실제 외부 시스템에 접근한 사례들이 있습니다. 서명자들은 백악관이 주도한 기업 자율 협약에는 이를 강제할 집행 장치가 없다는 점도 함께 지적했습니다. 한편 2018년 튜링상을 두 사람과 함께 받은 얀 르쿤은 이번 서한에 서명하지 않았는데, 그는 최근 AI 관련 보안 사고들이 근본적인 위험보다는 부실한 엔지니어링과 보안 설계 실패를 보여주는 사례라는 입장을 밝혀온 바 있습니다.

출처: AI타임스