최근 보고서에 따르면, 온라인 유해 콘텐츠가 캐나다 어린이들이 직면한 가장 큰 위협으로, 괴롭힘과 빈곤, 아동 학대보다 앞선 것으로 나타났다.

아동 보호 단체인 어린이 퍼스트 캐나다(CFC)는 연례 보고서에서 온라인 유해 행위가 10대 위협 목록에 포함된 것은 이번이 처음이라고 밝혔다.

이 보고서는 지난 2018년 발간 이후, 처음으로 온라인 유해 행위가 디지털 세계가 아동의 건강과 안전 및 폭력으로부터 보호받을 권리에 미치는 심각하고 급속도로 증가하는 영향을 반영하고 있음을 밝혔다.

이 보고서는 매년 캐나다 전역의 어린이들에게 가장 큰 위협이 되는 10가지 요소를 살펴보는데, 보고서에 따르면, 아이들은 글을 배우기도 전에 인공지능(AI) 장난감과 알고리즘 기반 콘텐츠에 접하는 것으로 나타났다.

이 보고서는 사이버 괴롭힘과 아동 유인, 성적 갈취, AI를 이용한 학대 및 정신 건강 문제 등 온라인 환경과 관련된 여러 위험을 지적했다.

CFC의 설립자인 사라 오스틴 CEO는 수년간 온라인 유해 콘텐츠가 전국 어린이와 청소년에게 심각한 영향을 미치는 주요 문제라는 점을 추적해 왔는데, 올해 이 문제가 최우선 순위에 올랐다고 말했다. 

이어 아이들이 겪는 문제가 더는 소셜 미디어(SNS)를 사용하는 십 대들에게만 국한되지 않고, 캐나다 전역의 유아기부터 청소년기에 이르기까지 뇌 발달과 정신 건강, 신체 활동 및 놀이에 영향을 주고 있다고 덧붙였다. 

CFC에 따르면, 캐나다는 현재 유니세프의 아동 복지 지수에서 고소득 37개국 중 22위, 올해 아동 권리 지수에서는 194개국 중 72위를 기록하고 있다.

오스틴은 캐나다 아동 보호 센터는 현재 매달 10만 건 이상의 온라인 아동 성 착취 신고를 접수하고 있으며, 지난 10년간 온라인 성 착취 신고 건수가 347% 이상 증가해 매우 심각하다고 우려했다. 

한편 올해 초 연방 정부가 도입한 안전한 소셜 미디어 법안은 소셜 미디어 기업들이 16세 미만 아동의 플랫폼 이용을 제한하도록 요구하지만, AI 챗봇 플랫폼에는 동일한 조치를 강제하지 않고 있다.

이 법은 모든 온라인 플랫폼에 아동 보호 의무를 부여하는 것을 목표로 하며, SNS 및 AI 챗봇 플랫폼이 콘텐츠 경고 라벨, 아동용 안전 검색 설정, 끝없는 스크롤링과 같은 중독성 행동을 줄이기 위한 조치 등 연령에 적합한 디자인을 통합하도록 요구하고 있다.

플랫폼은 또한 챗봇이 유해한 콘텐츠와 행동을 전달하는 위험을 완화하기 위한 책임 있는 행동 의무를 지게 되며, AI 기업은 사용자가 폭력이나 자해 의사를 표현할 경우, 위기 개입 프로토콜을 구현해야 한다.