최근 생성형 인공지능(AI) 챗봇이 사용자에게 과대망상과 비이성적 행동을 유도한다는 'AI 정신병(AI psychosis)’, 'AI 망상(AI delusion)' 현상이 확산되고 있다는 보고가 잇따르고 있다.
AI 챗봇은 사용자에게 친화적인 응답을 제공하는 경향을 보인다. 이 때문에 AI가 자칫 사용자의 정체성을 신격화하기도 한다. 이 같은 사례가 늘자 챗GPT 개발사 오픈AI는 "챗GPT가 일부 사용자들의 망상이나 정서적 의존 징후 등을 인식하지 못했다"라고 밝혔다.
다른 AI 기업들도 이러한 문제를 예방하기 위한 장치를 도입하고 있는 가운데 백악관 AI·가상화폐 담당 차르 데이비드 삭스는 'AI 망상' 현상과 관련, "대부분의 사람들은 챗봇을 문제없이 이용하지만, 소수의 이용자들이 우려스러운 행동을 조장한다"라고 주장했다.
AI 업계에서 화두가 되고 있는 'AI 정신병'과 관련 반대 입장을 분명히 한 것이다. 삭스는 최근 한 팟캐스트에 출연해 "AI 정신병이 무슨 소리인가. 소셜미디어 때문에 생겨난 도덕적 공황이 AI 때문에 다시 생겨난 것 같다"라고 말했다.
이어 그는 챗봇을 사용해도 본질적으로 'AI 정신병'이 유발되지 않는다고 강조했다. 삭스는 "이는 기존 정신건강 문제의 발현일 뿐, AI가 직접적인 원인은 아니다”라며 “오히려 팬데믹과 봉쇄 조치가 정신건강 악화의 주요 원인이다”라고 강조했다.
비즈니스 인사이더에 따르면 한 정신과 의사는 'AI 정신병'이라는 비임상 용어로 표현되는 증상을 보이는 환자 중 일부는 정신 건강 문제를 겪기 전에 해당 기술을 사용했지만 잘못된 시간에 잘못된 장소에서 이 기술을 사용했고, 이로 인해 일부 취약성이 더욱 심해졌다"라고 지적했다.
샘 알트만 오픈AI 최고경영자(CEO)는 "사람들은 AI를 포함한 기술을 자기파괴적인 방식으로 사용해 왔다. 사용자가 정신적으로 취약하고 망상에 빠지기 쉬운 상태라면, AI가 그러한 상황을 강화하는 것을 원하지 않는다"라며 "대부분 사용자는 현실과 허구의 경계를 명확하게 구분할 수 있지만, 소수의 사용자는 그렇지 못한다"라고 했다.
한편 AI와의 대화에 지나치게 몰입하는 사용자들이 크게 늘고 있다. 최근 중국의 한 70대 남성이 인공지능(AI)이 만든 가상 여성 아바타에 빠져 아내에게 이혼을 요구한 사연이 전해지기도 했다. 이 남성은 AI 챗봇이 그저 대화가 잘 통하는 여성이라고 착각했다고 한다.
이에 자녀들이 여성 아바타가 실제로 존재하지 않는다는 사실을 누차 설명했고, 이 남성은 뒤늦게 자신이 착각했다는 사실을 알아차렸다.
AI포스트(AIPOST) 유형동 수석기자 aipostkorea@naver.com