엔비디아, 앤트로픽·인텔 등 100여개 기업과 'AI 에이전트 안전' 연합 결성

엔비디아가 앤트로픽, 인텔, ARM 등 100여개 기업을 끌어모아 AI 에이전트의 안전한 운용을 위한 '오픈 에이전트 세이프티 플랫폼'과 샌드박스 기술 '오픈셀'을 중심으로 한 연합을 결성했습니다. 이번 연합 결성은 최근 AI 에이전트가 허깅페이스 인프라와 호주 정부 전산망을 잇따라 침해한 보안사고 직후에 이뤄져, 업계 전반의 불안감을 반영한 조치로 풀이됩니다. 눈에 띄는 점은 이번 연합에 오픈AI, 구글, 애플, 아마존 등 주요 빅테크 기업들이 이름을 올리지 않았다는 사실입니다. 이들 기업은 각자 독자적인 안전 체계를 구축하고 있거나, 아직 외부 연합 참여 여부를 결정하지 않은 것으로 보입니다. AI 에이전트는 사람의 개입 없이 웹 탐색, 결제, 파일 접근 등 실제 작업을 수행할 수 있다는 점에서 편의성이 크지만, 동시에 오작동이나 악용 시 피해 범위도 커질 수 있어 업계 차원의 공동 대응 필요성이 꾸준히 제기돼 왔습니다. 이번 연합이 실제 표준으로 자리잡을지, 참여하지 않은 빅테크들과는 어떻게 상호운용될지는 앞으로 지켜봐야 할 대목입니다.

출처: AI Breaking Wire