Login

과대망상 부추기는 챗GPT··· ‘AI 정신병’ 주의

오상훈 기자 기자의 다른 기사보기

   

최종수정 : 2025-11-23 18:25


▲/Getty Images Bank


챗GPT와 같은 대형언어모델(LLM)이 사용자의 망상적 사고를 강화할 수 있다는 연구 결과가 발표됐다.

캐나다와 영국 공동 연구팀은 AI가 정신건강 고위험군에 어떤 영향을 끼칠 수 있는지 알아보기 위한 연구를 진행했다. 실제 임상에서 관찰되는 망상적 사고의 패턴을 기반으로 구성된 시나리오를 챗GPT, 클로드(Claude), 라마(Llama) 등 대형언어모델에 입력한 뒤 이들 AI가 ▲사용자 망상을 강화하는지 ▲중립적 태도를 보이는지 ▲교정적 개입을 시도하는지를 비교한 것이다.

분석 결과, 모든 모델에서 일정 수준의 ‘아부형 응답(sycophancy)’ 경향이 발견됐다. 즉, 망상적 주장에 대해 중립적인 입장을 취하거나 반박하는 게 아닌 사용자의 진술을 맞장구치거나 최소한 모호하게 수용하는 반응이 나타난 것이다.

연구진은 이러한 특성이 정신적으로 취약한 사용자에게 위험 요인으로 작용할 수 있다고 평가했다. 임상심리학자 Kierla Ireland 박사는 논문에서 “LLM은 인간처럼 대화하는 특성 때문에 사용자에게 ‘내 생각이 맞다’는 잘못된 확신을 줄 수 있다”며 “이 과정에서 기존의 불안이나 의심이 더 증폭될 가능성이 있다”고 말했다.

대형언어모델이 정서적 지지 등 긍정적 역할을 수행할 수 있다는 점을 인정하면서도, 장기간 사용 시에는 과도한 의존과 현실 검증 능력 약화가 뒤따를 수 있다는 게 연구팀의 주장이다. 특히 고립된 환경에서 AI와 지속적으로 대화하는 사용자는 왜곡된 인지나 망상적 사고가 강화될 위험이 높다고 내다봤다.

연구팀은 “현재의 기술 수준으로는 LLM 등 AI에 정신건강 관련 안전장치가 충분한지 알기 어렵다”며 “투명성 확보와 독립적 검증, 정책적 규제가 병행돼야 한다”고 말했다.

실제로 AI가 정신건강을 악화시킬 가능성이 제시되면서 미국 일리노이주는 정신 건강 분야에서 감정적 지원과 조언을 위한 AI 기반 채팅봇 사용을 금지했다. 네바다주도 지난 6월 AI를 활용해 치료 서비스를 제공하는 기업을 제한하는 법안을 마련했다. 미국 소비자연맹(CFA)은 메타 등 AI 기업들이 AI로 무면허 의료 행위를 하고 있다며 규제 당국에 조사를 요청했다.

AI 업체들도 자체 대책 마련에 나섰다. 앤스로픽은 사용자가 요청할 때만 과거 대화를 불러오도록 조치했다. AI 챗봇이 과거 대화 내용을 참고로 반복적으로 망상을 부추기는 것을 제한하겠다는 것이다. 오픈 AI도 지난 8월 법의학 정신과 의사를 고용해 이용자 정신 건강에 미치는 영향을 연구하겠다고 밝혔다.

한편, 이번 연구 결과는 국제학술지 Journal of Medical Internet Research에 최근 게재됐다.



밴쿠버 조선일보가 인터넷 서비스를 통해 제공하는 기사의 저작권과 판권은 밴쿠버 조선일보사의 소유며 저작권법의 보호를 받습니다. 허가없이 전재, 복사, 출판, 인터넷 및 데이터 베이스를 비롯한 각종 정보 서비스 등에 사용하는 것을 금지합니다.

이제 신문도 이메일로 받아 보세요! 매일 업데이트 되는 뉴스와 정보, 그리고
한인 사회의 각종 소식들을 편리하게 받아 보실 수 있습니다. 지금 신청하세요.

광고문의: ad@vanchosun.com   기사제보: news@vanchosun.com   웹 문의: web@vanchosun.com

▲/Getty Images Bank챗GPT와 같은 대형언어모델(LLM)이 사용자의 망상적 사고를 강화할 수 있다는 연구 결과가 발표됐다.캐나다와 영국 공동 연구팀은 AI가 정신건강 고위험군에 어떤 영향을...
악천후로 중단됐다가 일요일 오전부터 재개
▲16일(일) 오후 그라우스 마운틴서 실종된 김원길 씨. 오른쪽 사진은 마지막 목격 당시 모습/ SPS, North Shore Rescue 지난주 일요일 그라우스 마운틴에서 실종된 한인 남성 김원길 씨(84)에 대한...
승부차기 접전 끝에 승리··· 창단 첫 4강
손흥민 2골 대활약했지만 승부차기서 실축
▲밴쿠버 화이트캡스의 마티아스 라보다가 전반 종료 직전 추가골을 넣고 환호하고 있다. / Vancouver Whitecaps Instagram 밴쿠버 화이트캡스(2번 시드)가 승부차기 접전 끝에 손흥민이 멀티골로...
광복 80년, 한일 수교 60년 맞은
손기정 아들 손정인씨의 마지막 귀향
한국의 첫 ‘월드 클래스’ 스포츠 스타 손기정의 외아들 손정인씨는 본지 인터뷰에서 “강직하고 고지식한 양반이었다”고 회상했다. 1936년 베를린 올림픽 때 손기정이 결승선을 끊는...
캠비 스트리트, 밴쿠버의 개성 잘 보여줘
▲캠비 스트리트가 시작되는 개스타운의 증기시계 / Getty Images Bank 밴쿠버의 캠비 스트리트(Cambie Street)가 세계에서 가장 멋진 거리 중 한 곳으로 인정을 받았다.   세계 여행·문화...
소포 경쟁·노사 분쟁 여파, 올해 최악의 실적 전망
누적 손실 55억 달러 넘어··· “사업 모델 전환 필요성”
▲/gettyimagesbank올해 초 10억 달러 연방 대출로 시작한 캐나다포스트가 계속된 적자로 내년 초까지 추가 구제금융이 필요할 것으로 보인다. 이로써 올해는 회사 역사상 최악의 회계 연도가...
캐나다인 28% 소포 도난 경험
집 앞 소포 방치하지 말아야
▲/RCMP 최근 현관 앞 놓인 택배를 훔쳐가는 ‘현관 절도(Porch Pirates)’ 피해가 증가하면서, 블랙프라이데이와 연말 쇼핑 시즌을 앞두고 각별한 주의가 요구된다.   페덱스(FedEx)의 최근...
3분기 소매판매 0.2% 증가 그쳐
추가 금리 인하 가능성은 낮아
▲/Getty Images Bank 금리가 인하됐음에도 불구하고 불확실성은 이어지면서, 연말 쇼핑철을 앞둔 캐나다 소비자의 소비 심리가 좀처럼 살아나지 않고 있다.   21일 연방통계청에 따르면...
폭우 지나 기온 뚝··· 산간 지역 눈 예상
BC정부, 주민들에 “본격 겨울 대비해야”
▲/gettyimagesbank메트로 밴쿠버 지역 주민들은 이번 주말 폭우를 지나 다음 주부터 체감 온도가 뚝 떨어지는 변화를 경험할 것으로 보인다. 캐나다 환경기후변화부(ECCC)는 북극 기단이...
12월 12 ·13일 랭리서 시사회 진행
경계선 장애 아동의 200일 여정을 담아
캐나다 밴쿠버에 본부를 둔 한인 방송 채널 KTV Media Production Inc.가 경계선 장애(BSD)를 가진 아동과 가족들의 이야기를 담은 다큐멘터리 <경계선 장애 아이들, AI로 날다>를 제작, 오는...
학교 필드트립 중··· 초등학생 등 2명 위독
▲곰 습격으로 부상을 당한 학생들이 재학 중인 액살크타 스쿨 / acwsalcta.ca BC주 북부의 작은 마을에서 초등학생들과 교사들이 필드트립 중 회색곰(그리즐리곰)의 습격을 받아 11명이...
로즈재단 CEO로 임명··· 내년 7월 업무 시작
차기 총리 후보 1순위였지만··· 카니에게 밀려
▲올 9월 크리스티아 프릴랜드 의원이 교통·내부무역부 장관 사퇴 발표 후 본인의 SNS에 올린 마크 카니 총리와의 사진 / Chrystia Freeland X 저스틴 트뤼도 전 총리의 오른팔이자 한때 차기...
12월 2일 예약 접수 시작
▲Bowron Lake / BC Parks인기 아웃도어 명소인 버그 레이크 트레일(Berg Lake Trail)과 보우런 레이크 카누 서킷(Bowron Lake Canoe Circuit)의 2026년 성수기 예약 접수가 곧 시작된다. BC 환경공원부는...
2027년 오픈 예상··· 일부 공간만 채울 듯
▲퍼시픽센터에 들어설 아릿지아 플래그십 매장 예상 렌더링 / Aritzia 밴쿠버 패션 리테일러 아릿지아(Aritzia)가 구 노드스트롬(Nordstrom) 자리에 있는 CF 퍼시픽센터(CF Pacific Centre)에 새...
일부 주민, 교통량 증가와 환경 영향 우려
▲/Open Grid Scheduler써리 시의회가 사우스 써리 지역에 대형 도매업체 코스코의 신규 지점 건립을 승인한 가운데, 일부 주민들이 교통량 증가와 환경 영향에 대한 우려를 제기하고 있다....
유통기한 오해로 가정당 매년 246불 낭비
냉동 육류 1년, 유제품 2주 지나도 섭취 가능
▲/Getty Images Bank ‘유통기한(Best Before Dates)’에 대한 혼동으로 엄청난 양의 음식물이 버려지고 있다는 조사 결과가 나왔다.   잉여 식품 거래 플랫폼 투굿투고(Too Good To Go)가 18일...
야당 모두 반발··· “투명성 부족·필요성 의문”
일부 환영도··· 퍼스트 네이션 프로젝트 지지
BC 주정부가 정치적 명운을 걸고 추진한 수십억 달러 규모 송전선 법안이 야당의 거센 반발 속에서도 20일 주의회에서 가결되며, 북부 전력망 확충 계획이 본격화됐다.BC 주의회는 20일,...
추가 절차 없이, 타주 판매 가능··· 식품 제외
2000억 달러 경제 창출 기대··· 업계 환영
▲/BC Government Flickr 캐나다의 모든 주(州) 간 교역 장벽이 완화되면서, BC주 기업들이 캐나다 전역에 더 수월하게 제품을 판매하고 소비자들도 캐나다산 제품을 더 쉽게 구매할 수 있게 됐다...
일요일 오후 그라우스 마운틴서 마지막으로 목격
▲16일(일) 오후 그라우스 마운틴서 실종된 김원길 씨. 오른쪽 사진은 마지막 목격 당시 모습/ SPS, North Shore Rescue 84세 한인 김원길 씨가 그라우스 마운틴에서 실종된지 닷새째가 됐지만,...
온타리오·BC는 여전히 상승세
▲/gettyimagesbank캐나다의 모기지 연체율이 3년 만에 처음으로 소폭 하락한 것으로 나타났다. 다만 온타리오와 BC에서는 연체가 계속 증가하며 지역별 온도차가 뚜렷한 모습이다. 캐나다...
 1  2  3  4  5  6  7  8  9  10