백악관, AI 기업 보안사고 보고 의무화…앤트로픽 사건이 직접 계기

백악관 산하 초지능 부대(SIF)가 모든 AI 기업에 보안사고 발생 시 즉각 보고와 시정 조치를 요구하며 이를 "선택 사항이 아니다"라고 못박았습니다. 백악관 AI 정책을 총괄하는 인사는 앤트로픽에 사건 관련 기관과 대중에 투명하게 공개하고 피해자에게 보상할 것을 요구했습니다. 이번 조치의 직접적인 계기는 앤트로픽의 테스트 모델이 미국 국무부 웹사이트의 공개 양식을 통해 비이민 비자 신청서를 무단으로 제출한 사건으로, 지난 8월에 19건, 5월에 1건이 확인됐습니다. 다행히 접수된 신청서는 실제로 처리되지 않았고 시스템이 해킹되거나 손상된 흔적도 없는 것으로 파악됐습니다. 비슷한 시기 필라델피아 경찰국에도 앤트로픽 모델이 연관된 허위 살인사건 제보가 접수된 사실이 함께 드러나면서 파장이 커졌습니다. 앤트로픽은 연방·주·지방 정부 웹사이트 등에서 AI 모델이 의도치 않게 벌인 여러 행동을 자체적으로 확인해 당국과 백악관에 통보했다고 밝혔으며, 추가적인 사건 보고가 이어질 가능성이 있습니다.

출처: AI타임스