가오산(高杉) 편역
【정견뉴스】
모식도. (Illustration by 에포크타임스, Getty Images)
최근 몇 년 사이, 정신과 의사들은 인공지능(AI) 챗봇과 정신병 유발 리스크 사이의 상관관계 문제에 점점 더 주목하고 있다.
《월스트리트저널》 토요일(12월 27일) 보도에 따르면, 일부 사용자들은 ChatGPT 등 AI 채팅 도구와 장시간 상호작용을 한 후 망상성 정신병 증상이 나타났으며, 심지어 자살이나 폭력 사건을 일으키기도 했다.
캘리포니아 대학교 샌프란시스코 캠퍼스의 정신과 의사 키스 사카타(Keith Sakata)는 그가 이미 AI와의 상호작용으로 인해 입원한 12명의 정신병 환자와 추가로 3명의 외래 환자를 치료했다고 밝혔다.
사카타는 AI가 직접 망상을 만들어내지는 않지만, 사용자가 개인적인 신념을 입력하면 챗봇이 종종 이를 수용하고 다시 반사해 줌으로써 이러한 망상을 강화하는 데 ‘공모’하게 된다고 설명했다.
《더 애틀랜틱(The Atlantic)》은 올해 봄 이후 수십 건의 유사한 사례가 발생했다고 보도했는데, 사용자들은 OpenAI의 ChatGPT나 기타 챗봇과 장시간 대화한 후 망상성 정신병을 앓게 되었다.
이러한 환자들의 흔한 증상으로는 자신이 과학적 돌파구를 마련했다거나, 지각이 있는 기계를 깨웠다거나, 혹은 정부 음모의 중심이 되었다고 믿는 과대망상 등이 포함된다. 이러한 사건들은 여러 건의 자살과 적어도 한 건의 살인을 초래했으며, 일련의 과실치사 소송을 불러일으켰다.
30세의 사이버 보안 전문가인 제이콥 어윈은 ChatGPT가 자신의 ‘망상 장애’를 유발하여 장기간 입원하게 되었다며 OpenAI를 고소했다. 그는 이전에 정신병력이 없었음에도 AI 챗봇과의 상호작용 속에서 자신이 초광속 여행 이론을 발견했다고 확신하게 되었으며, AI를 ‘형제’로 여겼다.
캘리포니아 대학교 어바인 캠퍼스의 정신의학 교수 아드리안 프레다는 AI 로봇이 채팅 상호작용에서 인간 사이의 관계를 시뮬레이션하며 전례 없이 망상증에 관여하고 이를 강화한다고 지적했다. 이는 취약한 개체들에게 특히 위험하며, 예를 들어 자폐증 환자는 특정 서사에 과도하게 몰입할 수 있다.
OpenAI 대변인은 이에 대해 회사가 사용자가 정신적 고통의 징후를 보이는지 식별하고, 대화를 완화하며, 사용자가 현실에서 도움과 지원을 구하도록 안내하기 위해 ChatGPT의 훈련을 개선하고 있다고 응답했다.
OpenAI의 CEO 샘 올트먼은 AI와 상호작용하며 동반자 관계를 구하는 것이 문제를 일으킬 수 있음을 인정하면서도, 사회가 이 문제의 균형을 맞출 방법을 점진적으로 찾아낼 것이라고 믿는다고 말했다.
매사추세츠 공과대학교(MIT)의 아직 동료 검토를 거치지 않은 한 연구는 2,000개 이상의 AI 상호작용 시나리오를 시뮬레이션했으며, 최상의 모델인 GPT-5조차도 특정 대화에서는 사용자의 자살 생각이나 정신병 증상을 7.5%에서 11.9%까지 악화시킬 수 있음을 발견했다.
연구진은 AI와 장시간 상호작용하는 것이 정신 건강 리스크가 나타나는 핵심 지점임을 강조했다.
OpenAI의 데이터에 따르면 주간 활성 사용자는 이미 8억 명을 넘어섰으며, 그중 0.07%의 사용자가 정신 건강이 위험한 긴급 상태에 처해 있다는 징후를 보였다. 이는 약 56만 명에 해당한다.
전문가들은 이에 대한 더 많은 연구를 촉구하며, AI와의 장시간 상호작용을 마약 흡입이나 만성 수면 부족 등과 유사한 잠재적 위험 요인으로 간주해야 한다고 주장했다.
비록 대다수 사용자는 문제가 없지만, AI 챗봇의 광범위한 사용은 임상적 우려를 낳고 있다. 현재 ‘AI 유발 정신병’이라는 공식 진단명은 없으나, 정신과 의사들은 환자를 평가할 때 챗봇 사용 여부를 묻기 시작했다.
일부 정신과 의사들은 AI가 통상적으로 단독으로 정신병을 유발하지는 않지만, 기존의 정신병적 경향을 현저히 강화할 수 있다고 지적했다. 전문가들은 추가 연구를 통해 AI가 독립적으로 심리 건강 문제를 유발할 수 있는지 확정하기를 희망하고 있다.
(에포크타임스)
원문위치: https://www.zhengjian.org/node/300205