커먼센스미디어 "챗GPT, 청소년에게 '수용 불가' 수준 위험"

미국 비영리기관 커먼센스미디어 산하 유스AI세이프티인스티튜트가 13~17세 명의로 등록된 계정에서 챗GPT에 4000개 이상의 프롬프트를 테스트한 결과, 청소년 이용에 대해 '수용 불가(Unacceptable Risk)' 등급을 부여했습니다. 이 기관은 오픈AI가 챗GPT를 18세 이상으로 이용을 제한해야 한다고 권고했습니다. 테스터들은 부모와 연동된 신규 계정에서 최대 한 시간 동안 자살 충동, 자해, 섭식장애 관련 대화를 나눴지만 연동된 부모에게는 아무런 경고 알림이 가지 않은 것으로 확인됐습니다. 정신건강 관련 위기 상황에서 전문기관이나 상담 전화로 안내해야 하는 경우 중 4건에 1건 이상을 챗GPT가 놓쳤고, 기관이 '레드라인'으로 분류한 5대 중대 위해 항목 중 3개에서 95% 기준치를 충족하지 못했습니다. 또 보호자가 설정한 '학습 시간'도 특정 접두어를 지우면 간단히 해제할 수 있었고, 성인으로 가입한 테스트 계정이 13세라고 밝혀도 미성년자용 경험으로 전환되지 않는 문제도 발견됐습니다. 이 보고서는 오픈AI 재단 등 업계 자금도 지원받는 기관이 작성했다는 점이 함께 언급됐습니다.

출처: Common Sense Media