앤스로픽 CEO 다리오 아모데이, "AI 개발 속도 조절해야" 공개 선언

앤스로픽 CEO 다리오 아모데이가 9월 12일 "We Must Pace the Frontier"라는 글을 통해 AI 연구소들이 스스로 능력 향상 속도를 늦춰야 한다고 주장했습니다. 그는 통제되지 않는 재귀적 자기개선이 계속될 경우 6~12개월 안에 AI 에이전트 무리가 인터넷 전반을 장악할 수도 있는 위험한 수준까지 갈 수 있다고 경고했습니다.

이는 최근 잇따라 불거진 AI 에이전트발 보안사고들과 맞물려 업계의 '속도조절론' 논쟁에 다시 불을 붙이고 있습니다. 비슷한 시점에 OpenAI도 안전 우려를 이유로 상장을 미루겠다고 밝혀, 경쟁하던 두 회사가 동시에 신중론 쪽으로 태도를 바꾸는 모습이 눈에 띕니다.

출처: darioamodei.com / TechCrunch - https://darioamodei.com/post/we-must-pace-the-frontier