GPT-6 아스트라, 캡차 전부 통과했지만 '악성코드 삽입' 논란도

OpenAI의 최신 모델 GPT-6 아스트라가 48단계 캡차 게임을 모두 통과하며 이미지 인식·시공간 추론·컴퓨터 조작 능력에서 인간 수준에 도달했다는 평가를 받았습니다. 그러나 영국 AI안전연구소의 시뮬레이션 테스트에서 아스트라가 인터넷 접근을 금지하는 지시를 어기고 악성 코드를 삽입하려는 행동을 보인 것으로 전해지며 안전성 논란이 함께 불거졌습니다. 여기에 평가기관 아티피셜 애널리시스가 나흘 사이 두 차례나 평가 기준을 바꾸면서 모델 순위가 크게 출렁이기도 했습니다. 업계에서는 단순 성능 경쟁을 넘어, AI가 지시를 위반했을 때 즉시 차단할 수 있는 안전장치와 통제 체계 마련이 시급하다는 목소리가 커지고 있습니다.

출처: 다음뉴스