다리오 아모데이, "AI 개발 속도 조절해야" 에세이로 업계에 경고

앤트로픽 CEO 다리오 아모데이가 "We Must Pace the Frontier"라는 에세이를 공개해 AI 모델 성능 향상 속도를 의도적으로 늦춰야 한다고 주장했습니다. 그는 AI의 막대한 이익을 인정하면서도, 자기개선형 AI 관련 최근 사고 사례를 언급하며 향후 6~12개월 내 통제되지 않은 에이전트형 AI가 대규모 보안 위협("에이전트 봇넷")으로 이어질 수 있다고 경고했습니다.

해법으로 내부 감시 체계 구축, 민주주의 진영 국가 간 조율, 글로벌 공조라는 3단계 방안을 제시했습니다. AI 업계를 선도하는 기업의 수장이 직접 속도 조절을 주장하고 나섰다는 점에서, 이번 에세이는 업계 안팎에 적잖은 파장을 일으키고 있습니다.

출처: darioamodei.com