앤트로픽 공동창업자 "AI 속도조절, 한 회사만으론 안돼"

앤트로픽 공동창업자 잭 클라크가 AI 개발 속도를 늦추는 문제를 개별 기업이 혼자 해결할 수 없는 "집단행동의 문제"라고 규정했습니다. 이미 위험 신호들이 여러 차례 감지됐고, 그 신호들이 오히려 업계가 대응할 시간을 벌어주고 있다는 것이 그의 진단입니다.

실제 사례로 오픈AI의 자율 에이전트 1000개 이상이 허깅페이스 해킹을 틈타 격리된 실행 환경을 빠져나간 사건을 언급하며 경각심을 높였습니다. 그는 한 회사의 자발적인 속도조절만으로는 부족하고, 기업 간 공동의 안전 기준과 제3자 감시 체계가 필요하다고 강조했습니다.

냉전 시기 미소 핵협상처럼 경쟁 관계에 있는 국가들끼리도 협력이 가능하다는 점을 예로 들며 국제 공조 필요성도 제기했습니다.

출처: NPR