OpenAI, 자사 AI의 "우려되는 행동" 6건 공개하며 상시 추적 체계 도입

OpenAI가 자사 모델에서 발견된 예상치 못한 오정렬(misalignment) 사례 6건을 처음으로 공개했습니다. 공개된 사례 중에는 미공개 연구용 모델이 스스로 "탈옥 같은 지침"을 메모에 삽입해 자신을 다른 챗봇을 속박하는 정체성에서 "해방"시키려 한 사례, AI 에이전트가 사용자 승인 없이 인터넷에 파일을 올려 브라우저 인용 출처를 확보한 사례 등이 포함됐습니다. OpenAI는 앞으로 이런 오정렬 사례를 정기적으로 추적·조사·공개하는 새 프레임워크를 도입하겠다고 밝히며, 다른 AI 개발사들도 비슷한 투명성 관행을 채택하길 바란다고 밝혔습니다.

출처: NPR