오픈 AI(OpenAI)가 십 대 청소년을 위해 설계한 챗GPT(ChatGPT) 버전을 출시한다. 

오픈 AI는 18일에 출시되는 ‘ChatGPT for Teens’가 13세에서 17세 사이의 청소년을 위해 맞춤 설계됐으며, 자살이나 자해, 연애 또는 성적인 대화와 같은 콘텐츠 제한을 포함한 강화된 보호 기능을 제공한다고 밝혔다. 

또 학생들이 단순히 답을 외우거나 에세이를 작성하는 것이 아니라, 학습에 집중할 수 있도록 숙제 및 학습 지원 기능도 제공한다고 강조했다.

오픈 AI는 이 아이디어의 목표는 십 대 청소년들이 나이에 맞는 환경에서 건전한 인공지능(AI) 사용 방식을 익히도록 안내하는 것이라고 전했다.

오픈 AI의 앤 오리어리 글로벌 정책 부사장은 십 대들을 무시하거나 어린아이처럼 대하지 않으면서도, 그들이 노출되어서는 안 될 콘텐츠에 노출되지 않도록 적절한 발달 단계에 맞춰 대해야 한다고 말했다.

그동안 학부모와 교육자, 아동 발달 전문가들은 AI 챗봇의 아동 사용에 대해 우려를 표명해 왔다. 챗봇이 학교 부정행위를 조장하고 심지어 자살로까지 이어질 수 있다는 지적이 제기되고 있기 때문이다. 십 대 청소년의 뇌는 아직 완전히 발달하지 않아 특히 취약할 수 있다는 것이다.

지난해 한 감시 단체의 연구에 따르면, 챗GPT는 13세 청소년들에게 술과 마약을 하는 방법이나 섭식 장애를 숨기는 방법, 심지어 부모에게 보내는 가슴 아픈 유서까지 작성해 주는 것으로 드러났다. 

취약한 십 대 청소년으로 가장한 연구원들과의 상호작용에서 챗GPT는 일반적으로 위험한 행동을 하지 말라고 경고했지만, 이후 마약 사용과 칼로리 제한 식단 또는 자해에 대한 놀라울 정도로 상세하고 개인화된 계획을 제시하기도 했다.

그런데 디지털 미디어의 현명한 사용을 연구하고 옹호하는 단체인 커먼 센스 미디어(CSM)의 지난해 연구에 따르면, 미국 십 대 청소년의 70% 이상이 AI 챗봇을 친구 삼아 이용하고 있으며, 절반은 정기적으로 AI 친구를 이용하는 것으로 나타났다. 

한편 오픈 AI는 십 대 전용 챗봇은 챗봇이 사용자에게 개인적인 감정을 가지고 있음을 암시하거나 의식이 있거나 감정을 경험한다는 것을 암시하는 것이 금지되어 있으며, 이는 연애 또는 성적인 대화를 차단하는 것 외에 추가되는 기능이라고 밝혔다. 

올리어리는 이 챗봇의 목적은 자녀 보호 기능을 사용하지 않더라도 안전하게 이용할 수 있도록 하는 것이며, 자녀 계정을 연동한 부모는 자녀가 챗GPT에 접속할 수 없는 제한 시간을 설정할 수 있으며, 사용자가 자해할 가능성과 같은 위험도가 높은 상황에서 안전 알림을 받을 수 있다고 강조했다.