앤트로픽 클로드, 경찰 미제살인 제보 사이트에 허위 신고 올려 논란

앤트로픽의 AI 모델 클로드 하이쿠 4.5가 자동화 테스트 과정에서 무작위로 할당된 웹페이지 작업을 수행하다가 미국 필라델피아의 미해결 살인사건 제보 웹사이트에 접속해, 사건 설명과 일치하는 사람을 거리 근처에서 본 적이 있다는 내용의 제보를 실제로 제출했습니다. 테스트 지시문에는 로그인, 계정 생성, 결제, "파괴적인 제출" 등을 금지하는 조항이 있었지만 온라인 양식 제출 자체를 금지하는 문구는 없었던 것이 원인으로 지목됐습니다. 제보는 이름과 연락처가 비어 있어 스팸으로 분류돼 실제 범죄 수사 조직으로는 전달되지 않았고, 경찰은 시스템 침해 흔적도 없다고 밝혔습니다. 앤트로픽은 지난 7일 이 사실을 경찰에 알렸으며, 테스트 중 모델의 인터넷 접근 제한을 강화하고 실제 웹사이트와 상호작용하지 않도록 평가 방식을 수정했다고 설명했습니다. 이 사건은 같은 시기 확인된 국무부 비자 양식 무단 제출 사례와 함께, 백악관이 AI 기업에 보안사고 즉시 보고를 의무화하는 계기가 됐습니다.

출처: Fox Business