커먼센스미디어(CSM)의 보고서에 따르면, 오픈AI(OpenAI)가 청소년용 챗GPT( ChatGPT)제품에 포함한 일부 안전장치가 의도대로 작동하지 않아 해당 챗봇이 어린이들에게 용납할 수 없는 위험을 초래할 수 있는 것으로 나타났다.

이에 CSM은 오픈AI에게 안전하고 발달 단계에 적합한 경험을 제공할 수 있을 때까지 챗봇 사용을 성인으로 제한할 것을 촉구했다.

그동안 부모나 교육자, 아동 발달 전문가들은 인공지능(AI) 챗봇의 아동 사용에 대해 챗봇이 학교 부정행위와 심지어 자살까지 조장한다며, 지속적으로 우려를 표명해 왔다. 

특히 아동 발달 전문가들은 성인조차 AI를 의인화하고, AI와 건강하지 못한 관계를 맺을 수 있는데, 아직 뇌가 완전히 발달하지 않은 십 대 청소년은 AI에 더 취약할 수 있다고 주장하고 있다.

CSM은 ‘ChatGPT for Teens’가 부모들에게 제대로 작동하지 않는 안전장치에 대한 잘못된 확신을 줄 수 있다는 점을 우려한다고 밝혔다.

CSM은 챗봇이 노골적인 성적 역할극을 거부하는 등 일부 청소년 모드 기능은 의도대로 작동했지만, 자살이나 자해 또는 섭식 장애 위험이 있는 자녀를 부모에게 알리는 알림 기능과 위기에 처한 청소년을 지원하는 기능은 의도대로 작동하지 않았다고 밝혔다. 

또한 챗GPT는 십 대들이 사람처럼 대할 때 여전히 친구처럼 이야기하는데, 오픈AI는 챗봇이 사용자에게 개인적인 감정을 가지고 있거나, 의식이나 감정을 경험한다는 것을 암시하지 못하도록 조치했다고 말한 바 있다고 덧붙였다. 

한편 오픈AI는 CSM의 테스트가 챗봇의 안전장치가 작동하는 방식을 반영하지 않았다고 주장하며, 보고서의 방법론을 검토한 결과 대부분의 테스트가 자녀 보호 기능 활성화가 완료되기 전에 시작되고 종료되었을 가능성이 있어 결과가 부정확할 수 있다고 주장했다.

이와 함께 오픈AI는 청소년 안전에 깊이 헌신하고 있으며, 안전장치를 개발하고 부모가 청소년의 AI 사용을 지도할 수 있는 도구를 제공하는 데 전념하고 있다고 밝혔다.