앤스로픽, 8개월간 적발한 AI 오용 사례 종합 보고서 발표

앤스로픽이 지난 8개월간 자사 AI가 악용된 사례를 조사·차단한 내용을 담은 보고서를 공개했습니다. 사이버 공격, 감시, 여론 조작, 무기 개발, 사기 등 국가 배후 행위자와 범죄 조직에 의한 다양한 오용 시도가 포함됐으며, 자사의 최신 고성능 모델이 직접 악용된 사례는 단 한 건(경량화 모델 증류 관련)을 제외하면 없었다고 밝혔습니다. AI 기업이 자사 모델의 오용 사례를 이처럼 구체적으로 공개한 것은 이례적이라는 평가가 나오며, 투명성 확보를 통해 신뢰를 얻으려는 시도로 풀이됩니다. 최신 고성능 모델의 악용 사례가 거의 없었다는 점은 안전장치가 효과적으로 작동하고 있음을 보여주는 근거로 제시됐지만, 국가 배후 행위자의 시도가 계속되고 있다는 사실은 AI 안전에 대한 경계가 여전히 필요함을 시사합니다.

출처: Anthropic - https://www.anthropic.com/news