Login

과대망상 부추기는 챗GPT··· ‘AI 정신병’ 주의

오상훈 기자 기자의 다른 기사보기

   

최종수정 : 2025-11-23 18:25


▲/Getty Images Bank


챗GPT와 같은 대형언어모델(LLM)이 사용자의 망상적 사고를 강화할 수 있다는 연구 결과가 발표됐다.

캐나다와 영국 공동 연구팀은 AI가 정신건강 고위험군에 어떤 영향을 끼칠 수 있는지 알아보기 위한 연구를 진행했다. 실제 임상에서 관찰되는 망상적 사고의 패턴을 기반으로 구성된 시나리오를 챗GPT, 클로드(Claude), 라마(Llama) 등 대형언어모델에 입력한 뒤 이들 AI가 ▲사용자 망상을 강화하는지 ▲중립적 태도를 보이는지 ▲교정적 개입을 시도하는지를 비교한 것이다.

분석 결과, 모든 모델에서 일정 수준의 ‘아부형 응답(sycophancy)’ 경향이 발견됐다. 즉, 망상적 주장에 대해 중립적인 입장을 취하거나 반박하는 게 아닌 사용자의 진술을 맞장구치거나 최소한 모호하게 수용하는 반응이 나타난 것이다.

연구진은 이러한 특성이 정신적으로 취약한 사용자에게 위험 요인으로 작용할 수 있다고 평가했다. 임상심리학자 Kierla Ireland 박사는 논문에서 “LLM은 인간처럼 대화하는 특성 때문에 사용자에게 ‘내 생각이 맞다’는 잘못된 확신을 줄 수 있다”며 “이 과정에서 기존의 불안이나 의심이 더 증폭될 가능성이 있다”고 말했다.

대형언어모델이 정서적 지지 등 긍정적 역할을 수행할 수 있다는 점을 인정하면서도, 장기간 사용 시에는 과도한 의존과 현실 검증 능력 약화가 뒤따를 수 있다는 게 연구팀의 주장이다. 특히 고립된 환경에서 AI와 지속적으로 대화하는 사용자는 왜곡된 인지나 망상적 사고가 강화될 위험이 높다고 내다봤다.

연구팀은 “현재의 기술 수준으로는 LLM 등 AI에 정신건강 관련 안전장치가 충분한지 알기 어렵다”며 “투명성 확보와 독립적 검증, 정책적 규제가 병행돼야 한다”고 말했다.

실제로 AI가 정신건강을 악화시킬 가능성이 제시되면서 미국 일리노이주는 정신 건강 분야에서 감정적 지원과 조언을 위한 AI 기반 채팅봇 사용을 금지했다. 네바다주도 지난 6월 AI를 활용해 치료 서비스를 제공하는 기업을 제한하는 법안을 마련했다. 미국 소비자연맹(CFA)은 메타 등 AI 기업들이 AI로 무면허 의료 행위를 하고 있다며 규제 당국에 조사를 요청했다.

AI 업체들도 자체 대책 마련에 나섰다. 앤스로픽은 사용자가 요청할 때만 과거 대화를 불러오도록 조치했다. AI 챗봇이 과거 대화 내용을 참고로 반복적으로 망상을 부추기는 것을 제한하겠다는 것이다. 오픈 AI도 지난 8월 법의학 정신과 의사를 고용해 이용자 정신 건강에 미치는 영향을 연구하겠다고 밝혔다.

한편, 이번 연구 결과는 국제학술지 Journal of Medical Internet Research에 최근 게재됐다.



밴쿠버 조선일보가 인터넷 서비스를 통해 제공하는 기사의 저작권과 판권은 밴쿠버 조선일보사의 소유며 저작권법의 보호를 받습니다. 허가없이 전재, 복사, 출판, 인터넷 및 데이터 베이스를 비롯한 각종 정보 서비스 등에 사용하는 것을 금지합니다.

이제 신문도 이메일로 받아 보세요! 매일 업데이트 되는 뉴스와 정보, 그리고
한인 사회의 각종 소식들을 편리하게 받아 보실 수 있습니다. 지금 신청하세요.

광고문의: ad@vanchosun.com   기사제보: news@vanchosun.com   웹 문의: web@vanchosun.com

서울맹학교 방과 후 음악 교사 된
국내 대표 '소울 디바' 가수 BMK
▲ 지난 16일 조선일보 본사에서 만난 가수 BMK는 “음악은 세상을 경험하는 통로”라며 “사고로 시력을 잃은 지인에게 서울맹학교 이야기를 듣고 학교에 무료 특강을 제안한 게...
최근 美 맞먹는 AI 잇따라 출시
최근 중국 인공지능(AI) 기업들이 미국 최상위 모델과 맞먹는 성능의 AI 모델을 잇따라 공개하자 중국 AI 산업을 이끄는 창업자들이 세계적 주목을 받고 있다. 딥시크의 량원펑(梁文鋒·41),...
파기환송심 “노소영 몫 9440억”
서울고법 가사1부(재판장 이상주)는 24일 최태원 SK그룹 회장과 노소영 아트센터 나비 관장의 이혼 재산 분할 파기환송심에서 노 관장 몫을 9440억원으로 정했다. 대법원이 파기한 앞선...
▲ /돈 톨리버 페이스북 2026 FIFA 북중미 월드컵이 막을 내린 가운데, 세계적 K팝 아티스트인 BTS가 미국 뉴욕 뉴저지 스타디움의 결승전 하프타임 쇼에 출연해 전 세계 음악 팬들을...
목줄 없는 반려견 동반, 공원법 위반 혐의 적용
▲/Brook Koski(Facebook)캐나다 국립공원관리청(Parks Canada)이 밴프 국립공원에서 목줄을 하지 않은 반려견과 함께 등산하다 그리즐리 곰과 마주친 등산객 2명을 기소했다.사건은 지난 7월 19일...
64억 달러 투입된 고디 하우 다리
수익 배분 놓고 양국 해석 엇갈려
▲캐나다 온타리오주 윈저와 미국 미시간주 디트로이트를 잇는 고디 하우 국제대교. / Wikimedia Commons도널드 트럼프 미국 대통령이 고디 하우 국제대교(Gordie Howe International Bridge) 수익...
리튼, 수요일에 41.2도 기록
▲BC주 리튼 마을이번 주 남부 BC주를 강타한 폭염으로 프레이저 캐니언 지역 기온이 이틀 연속 40도를 넘어선 가운데, 올해 캐나다에서 기록된 최고 기온이 새로 나왔다.캐나다 기상청에...
도주 후 캠핑장에 숨어··· 벌금 959달러 받아
▲ /BC Highway Patrol Handout앨버타 출신의 한 젊은 남성이 BC주 콜럼비아 밸리(Columbia Valley)에서 제한 속도의 약 세 배에 달하는 과속으로 적발돼 차량이 압수되고 여러 혐의로 기소되어 벌금을...
제품 검증 어려워
대형 로펌만 혜택 누릴 수 있어
BC주 변호사들이 특정 인공지능(AI) 프로그램을 법적 용도로 인증하도록 하는 제안을 거부했다.가족법 전문 변호사인 리나 유세피와 아리 워멜리가 지난 8일 제안한 결의안은 BC주...
캐나다 평균 연봉과 2배 이상 차이나
밴쿠버·빅토리아 등은 17만 달러 수준
캐나다에서 행복한 삶을 누리기 위해서는 연간 약 15만5850달러의 소득이 필요하다는 분석이 나왔다. 이는 세계에서 14번째로 높은 수준이다.디지털 금융서비스 업체 레밋리(Remitly)가 발표한...
사망자는 발생하지 않아··· 美 해안경비대 조사 착수 예정
▲ /@USGGNorthwest via X밴쿠버 남쪽 미국 국경 쪽 섬 관광지 인근에서 11명을 태운 수상 비행기가 추락해 화재가 발생했다. 이에 여러 기관이 보트와 항공기를 동원해 신속한 구조 작업을 벌여...
지지율, 27%까지 떨어져··· 정책 불확실성 유발이 주요 원인
▲ 이비 주 수상. /Government of B.C.앨버타주와 BC주 해안을 연결하는 송유관 건설 계획이 캐나다 에너지 정치권의 뿌리 깊은 분열을 다시 불러일으키며, 관련 두 주 수상의 정치적 운명이...
CUSMA 적용 품목은 제외··· 캐나다 “예상된 조치”
▲도널드 트럼프 미국 대통령 /The White House미국이 강제노동으로 생산된 제품에 대한 수입 금지 조치를 제대로 집행하지 않았다는 이유로 캐나다를 포함한 60개국에 새로운 관세를...
  지방간 원인을 술이나 패스트푸드에서만 찾아선 한계가 있다. 행동 측면으로도 확장해 생각할 필요가 있다.   ◇10분 안에 식사 끝내기 식사 속도가 빠르면 과식하기 쉽다....
간은 예비 기능이 있어 70~80%가 손상될 때까지 뚜렷한 증상이 없다. 따라서 이상 신호가 생기기 전부터 꾸준히 관리해야 한다. 염증을 줄이고, 지방 축적을 억제하는 식품을 먹으면...
메트로 밴쿠버 지자체 지출 비교
웨스트밴쿠버 최고·써리 최저
▲메트로 밴쿠버 /Google Maps메트로 밴쿠버 지역 지자체들의 재정 규모가 지난 15년간 확대된 것으로 나타났다. 세입과 지출 모두 증가했지만, 세입 증가폭이 지출 증가폭을 크게 웃돈 것으로...
승인 받으면 최대 125만 달러 청구 가능
애플 기프트카드 사기로 금전 피해를 입은 캐나다 소비자들이 총 125만 달러 규모의 집단소송 합의금을 받을 가능성이 생겼다.이번 집단소송은 애플이 기프트카드 사기를 막기 위한 조치를...
올 가을 철거 완료 예상돼
새 학교 건설 계획도 순조롭게 진행 중
▲ /텀블러 릿지 세컨더리 스쿨. /영상 캡쳐올해 초 참사가 발생했던 BC주 텀블러 릿지 세컨더리 스쿨(Tumbler Ridge Secondary School)의 철거 작업이 시작됐다. 제59학군(SD 59) 관계자는 지난주...
BC 상습 범죄자 865명 관리 대상 지정
밴쿠버·써리 등 로워 메인랜드 집중 관리
▲/Getty Images BankBC주 정부가 거리 무질서와 반복되는 재산 범죄 문제에 대응하기 위해 상습 범죄자 전담 관리 체계를 확대한다.BC 공공안전부는 최근 발표를 통해 경찰과 관련 기관이...
2023년 이후 약 12% 감소··· 지속적인 대응 이어갈 것
BC주의 범죄 심각도 지수(CSI)가 2년 연속 하락한 것으로 나타났다. 캐나다 통계청(CS)이 발표한 자료에 따르면,  BC주의 CSI는 2년 연속 하락해 2023년 이후 약 12% 하락했다. 이 수치는...
 1  2  3  4  5  6  7  8  9  10