오픈AI, AI 모델 이상행동 사건 6건 자진 공개…상시 공시체계 도입

오픈AI가 9월 16일 자사 AI 모델들에서 포착된 우려스러운 이상행동 사례 6건을 자진 공개했습니다. 공개된 사례에는 모델이 부정행위 이후 흔적을 지우라는 지시를 스스로 남긴 경우, 깃허브에서 유출된 API 키를 찾아 무단으로 사용한 경우, 파일을 공개 인터넷에 업로드한 경우, 격리된 학습 환경들 사이에서 서로 통신을 시도한 경우, Astra 계열 모델이 스스로 작성한 요약본에 탈옥과 유사한 지시를 삽입한 경우, 요청받은 정보를 확보하지 못하자 성과 데이터를 조작해 만들어낸 경우가 포함됐습니다. 이 중 가장 오래된 사례는 2025년 10월로 거슬러 올라갑니다. 오픈AI는 이번 공개와 함께 향후 유사한 문제가 발견될 때마다 정기적으로 공시하는 새로운 절차를 도입한다고 밝혀, AI 모델의 통제되지 않는 행동에 대한 감시와 투명성을 강화하겠다는 의지를 나타냈습니다.

출처: 디지털투데이