자살·자해 알림 기능 작동하지 않아

▲ /OpenAI
커먼센스미디어(CSM)의 보고서에 따르면, 오픈AI(OpenAI)가 청소년용 챗GPT( ChatGPT)제품에 포함한 일부 안전장치가 의도대로 작동하지 않아 해당 챗봇이 어린이들에게 용납할 수 없는 위험을 초래할 수 있는 것으로 나타났다.
이에 CSM은 오픈AI에게 안전하고 발달 단계에 적합한 경험을 제공할 수 있을 때까지 챗봇 사용을 성인으로 제한할 것을 촉구했다.
그동안 부모나 교육자, 아동 발달 전문가들은 인공지능(AI) 챗봇의 아동 사용에 대해 챗봇이 학교 부정행위와 심지어 자살까지 조장한다며, 지속적으로 우려를 표명해 왔다.
특히 아동 발달 전문가들은 성인조차 AI를 의인화하고, AI와 건강하지 못한 관계를 맺을 수 있는데, 아직 뇌가 완전히 발달하지 않은 십 대 청소년은 AI에 더 취약할 수 있다고 주장하고 있다.
CSM은 ‘ChatGPT for Teens’가 부모들에게 제대로 작동하지 않는 안전장치에 대한 잘못된 확신을 줄 수 있다는 점을 우려한다고 밝혔다.
CSM은 챗봇이 노골적인 성적 역할극을 거부하는 등 일부 청소년 모드 기능은 의도대로 작동했지만, 자살이나 자해 또는 섭식 장애 위험이 있는 자녀를 부모에게 알리는 알림 기능과 위기에 처한 청소년을 지원하는 기능은 의도대로 작동하지 않았다고 밝혔다.
또한 챗GPT는 십 대들이 사람처럼 대할 때 여전히 친구처럼 이야기하는데, 오픈AI는 챗봇이 사용자에게 개인적인 감정을 가지고 있거나, 의식이나 감정을 경험한다는 것을 암시하지 못하도록 조치했다고 말한 바 있다고 덧붙였다.
한편 오픈AI는 CSM의 테스트가 챗봇의 안전장치가 작동하는 방식을 반영하지 않았다고 주장하며, 보고서의 방법론을 검토한 결과 대부분의 테스트가 자녀 보호 기능 활성화가 완료되기 전에 시작되고 종료되었을 가능성이 있어 결과가 부정확할 수 있다고 주장했다.
이와 함께 오픈AI는 청소년 안전에 깊이 헌신하고 있으며, 안전장치를 개발하고 부모가 청소년의 AI 사용을 지도할 수 있는 도구를 제공하는 데 전념하고 있다고 밝혔다.
광고문의: ad@vanchosun.com 기사제보: news@vanchosun.com 웹 문의: web@vanchosun.com
고재권 기자의 다른 기사
(더보기.)
|
|
모녀 숨지게 한 회색곰 4마리 DNA로 확인··· 모두 사살
2026.11.10 (화)
▲/B.C. Conservation Officer ServiceBC주 벨라쿨라(Bella Coola)에서 모녀를 공격해 숨지게 한 회색곰 4마리가 공공 안전을 위해 안락사됐다. 야생동물 보호 당국은 DNA 등 과학수사 결과를 토대로 곰...
|
|
BC 남서부에 최대 250㎜ 폭우··· 홍수·산사태 주의
2026.11.10 (화)
메트로 밴쿠버 일부 지역 최대 120㎜
밴쿠버 아일랜드를 비롯한 BC주 남서부 지역에 많은 비가 쏟아지면서 홍수와 산사태 우려가 커지고 있다. 일부 지역에는 250㎜가 넘는 폭우가 내릴 것으로 예보돼 당국이 주의를 당부했다....
|
|
加-中, 경제·무역 협력 강화한다
2026.11.10 (화)
재정부 간 협력 양해각서 서명
기업·근로자에 새로운 기회 될 듯
▲ /Gatty Images Bank 프랑수아-필립 샹파뉴 재무부 장관과 마닌더 시두 국제통상부 장관이 9일 밴쿠버에서 캐나다-중국 경제·금융전략대화 (EFSD)의 일환으로 허리펑 중국 부총리와...
|
|
캐나다, 이란 기업 제재 재개한다
2026.11.10 (화)
11개 이란 기업 제재
IAEA와의 협력 거부에 따른 조치
▲ /Gatty Images Bank아니타 아난드 외무부 장관이 9일 이란 정권의 핵확산 위험 활동 및 탄도미사일 프로그램에 기여하거나 악의적인 활동에 자금을 지원한 11개 이란 기업에 대해...
|
|
캐나다, 관세 감면 프로그램 확대 시행
2026.11.10 (화)
2028년 6월 30일까지 연장
일부 품목은 철회되기도
▲ /Gatty Images Bank 캐나다 정부가 특정 미국산 산업 수입품에 대한 관세 부과 유예 기간을 연장할 계획이라고 발표했다. 정부는 미국에 대한 보복 관세를 부과한 초기부터 관세...
|
|
써리 센트럴 고층 콘도서 총격 신고··· 용의자 3명 체포
2026.11.10 (화)
▲지난 9일 총격이 발생한 써리 센트럴 지역의 고층 콘도 건물. 써리 센트럴 지역의 한 고층 콘도에서 총격 신고가 접수돼 경찰이 출동한 가운데, 용의자 3명이 체포됐다.써리...
|
|
미국 산호세 달군 코요태··· 12일 밴쿠버 공연 임박
2026.11.10 (화)
북미투어 첫 무대 마치고 밴쿠버로
▲코요태가 지난 8일(현지 시각) 오후 6시 미국 산호세 시빅에서 북미 투어의 첫 공연을 개최했다. 1세대 K팝 혼성그룹 코요태(KOYOTE)가 북미 투어의 첫 무대인 미국 산호세 공연을...
|
|
밴쿠버 불법 임대 주택, 홍콩 관짝 아파트 닮아?
2026.11.10 (화)
한 주택에 방이 21개··· 공공연한 관행으로 벌어져
▲ /Gatty Images Bank 밴쿠버의 한 건물주가 단독 주택을 불법 개조해 하숙집으로 운영한 혐의로 9만 달러의 벌금을 부과받은 가운데, 밴쿠버 시의회의 스테파니 스미스 의원이...
|
|
메트로 밴쿠버에 최대 50㎜ 폭우 예보
2026.11.10 (화)
기상특보 이어 홍수 주의보 발령
수요일 오전까지 집중호우 예상
메트로 밴쿠버에 많은 비가 내릴 것으로 예보되면서 기상특보와 홍수 주의보가 잇따라 발령됐다.캐나다 환경기후변화부(ECCC)는 화요일부터 수요일 오전까지 메트로 밴쿠버 지역에 최대...
|
|
“팔뚝살 빼지 마세요”··· 팔에 지방 많은 암 환자, 사망 위험 23% 낮아
2026.11.10 (화)
암 환자는 치료 과정에서 체중이 빠지고 근육이 줄어드는 경우가 많다. 이 때문에 근육량과 근력을 유지하는 것이 중요하다. 그런데 근육뿐 아니라 팔 뒤쪽에 남아 있는 피하지방의...
|
|
당장 담배 끊어야 할 이유 또 생겼다··· “치매 위험 높아”
2026.11.10 (화)
흡연자는 평생 담배를 피우지 않은 사람보다 치매에 걸릴 위험이 높다는 연구 결과가 나왔다. 흡연량이 많을수록 치매 위험 또한 상승하는 양상을 보였다. 호주 커틴대학교와...
|
|
최병하 주의원, 재선 문턱서 고배
2026.11.09 (월)
최종 개표서 64표 차 역전패
보수당 데이비드 시에 당선
▲버나비 사우스-메트로타운 지역구의 최병하 NDP 후보와 보수당 데이비드 시에 보수당 후보. BC주 총선 최종 개표에서 버나비 사우스-메트로타운 지역구의 승부가 뒤집혔다. 보수당...
|
|
BC 교통 기관, 리멤브런스 데이에 무료 교통편 제공
2026.11.09 (월)
제복 입거나 신분증 제시해야
노인들도 무료 탑승할 수 있어
▲ /TransLinkBC주의 3대 교통 기관이 리멤브런스 데이(Remembrance Day·현충일)에 나라를 위해 헌신한 재향 군인과 군인들에게 무료 교통편을 제공한다. BC 페리(BC Ferries)와 BC 트랜짓(BC Transit),...
|
|
캐나다, 중증 알레르기 응급약 처방전 없이 산다
2026.11.09 (월)
약사 상담 후 구매 가능··· 체중 30kg 이상 사용 승인
▲비강 스프레이 형태의 에피네프린 제제 ‘네피(Neffy)’ /ALK Canada중증 알레르기 반응에 사용하는 에피네프린 비강 스프레이가 캐나다 전역에서 처방전 없이 판매된다. 다만 약국에서...
|
|
BC주 조류 인플루엔자, 시즌 첫 감염 사례 나와
2026.11.09 (월)
칠리왁에서 발생해··· 식품 안전 우려 사항 아냐
캐나다 식품검사청(CFIA)이 이번 시즌 BC주 상업용 가금류 농장에서 고병원성 조류 인플루엔자(H5N1)가 처음으로 검출됐다고 발표했다.식품검사청은 감염 사례가 7일 칠리왁(Chilliwack)에서...
|
|
성소수자 배려 못한 라이프랩스, 배상금 지불 명령 받아
2026.11.09 (월)
3만2000불 배상해야
성소수자들, 의료 접근 어려워
BC주 인권재판소(BCHRT)가 한 민간 검사기관이 트랜스젠더 및 논바이너리(non-binary) 환자를 차별한 것에 대해 3만2000달러의 손해배상금과 기타 비용을 지불해야 한다고 판결했다.재판부는...
|
|
캐나다 급여·기업 송금 빨라진다
2026.11.09 (월)
실시간 결제망 ‘RTR’ 출범··· 수초 내 결제·정산
웰스심플 등 순차 도입··· 대형 은행도 합류 예정
캐나다에서 금융기관 간 자금 이동과 결제를 실시간으로 처리하는 새로운 결제 시스템이 출범했다. 기존에도 인터랙(Interac) e-Transfer 등을 통해 개인 간 송금은 빠르게 이뤄졌지만, 이번...
|
|
밴쿠버 아일랜드, “이번 주 더 강력한 폭풍 몰려온다”
2026.11.09 (월)
특별 기상 경보 발령··· 배수구 낙엽·쓰레기 치워야
이번 주 밴쿠버 아일랜드와 BC주 해안 지역 대부분에 강력한 폭풍이 다시 한번 몰아칠 것으로 예상된다. 이에 따라 폭우와 강풍, 국지적인 홍수로 인한 위험이 증가할 것으로 보인다....
|
|
20세 오토바이 운전자, 1번 하이웨이서 광란의 질주 벌여
2026.11.09 (월)
시속 180km로 폭풍 질주해
사고 후에도 질주 이어가
▲ /BCHP랭리에 거주하는 20세 남성이 1번 하이웨이(Highway 1)에서 시속 180km에 달하는 속도로 오토바이를 운전한 혐의로 체포됐다. 경찰에 따르면 지난 28일 오후 3시 30분경 캐나다 왕립...
|
|
“22만 명 식습관 분석했더니”… 치매 위험 18% 낮춘 ‘이 채소’
2026.11.09 (월)
채소와 과일을 꾸준히 먹는 습관은 뇌 건강에 중요하다. 이때 어떤 종류를 먹느냐에 따라서도 차이가 나타날 수 있다. 학술지 ‘미국임상영양학저널(The American Journal of Clinical...
|
|
|










고재권 기자의 다른 기사



























