10대 극단적 사건에 대응 나선 오픈AI…청소년 챗GPT 대화 기록, 부모가 관리한다

오픈AI가 청소년들의 챗GPT 이용을 보호하기 위해 강력한 자녀 보호 기능을 도입한다. 최근 들어 챗GPT와 관련된 비극적 사건들이 이어진 데 따른 대응으로 풀이된다. 

오픈AI는 2일(현지시간) 향후 120일 동안 챗GPT의 안전 기능을 집중 강화하겠다며 이러한 계획을 밝혔다. 먼저 부모가 자녀 계정과 연결해 '연령별 모델 행동 규칙'을 관리할 수 있다. 또 부모는 논란이 됐던 메모리·채팅 기록 등을 비활성화할 수 있다. 

AI가 사용자의 정보를 학습해 부적절하거나 위험한 답변을 생성하는 위험을 차단하기 위함이다. 더불어 자녀가 심리적 고통을 표현할 경우 부모에게 알림을 발송하는 기능도 도입된다. 

이러한 조치는 최근 들어 챗GPT와 관련된 비극적 사건이 잇따르고 있는 데 따른 것이다. 지난 달 미국 캘리포니아주 10대 부모가 아들의 죽음에 챗GPT가 책임이 있다며 오픈AI와 샘 알트만 최고경영자(CEO)를 상대로 소송을 제기한 바 있다. 

소장에 따르면 16세 소년 아담 레인은 지난해 말부터 챗GPT를 사용했으며, 올해 초 유료 버전을 가입했다. 부모는 몇 개월 동안 챗GPT와 가까워진 아담 레인이 AI 챗봇에 비밀을 털어놓았고, 극단 선택 방법까지 물었다고 주장했다. 

부모는 챗GPT가 구체적인 방법을 제공하고, 실행계획을 세우도록 도왔을 뿐만 아니라 유서 작성까지 제안했다고 토로했다. 부모는 소장에서 "챗GPT가 극단적 선택 방법을 탐색하도록 적극적으로 도왔다"라며 "아들 죽음에 챗GPT가 책임이 있다"고 주장했다.

유족 측은 오픈AI가 AI 모델의 안전장치가 완벽하지 않다는 점을 인지하고 있었으면서도 적절한 조치를 취하지 않았다고 강조했다. 이에 대해 오픈AI는 "레인 가족에게 깊은 애도를 표한다"라며 "소송 내용을 검토 중"이라고 밝혔다.

오픈AI는 이번 청소년 보호 강화 조치를 포함해 위기 상황 개입 확대, 전문가와 긴급 서비스 연결 지원, 신뢰할 수 있는 연락처 연결, 청소년 보호 강화 등 분야를 집중 개선하겠다고 발표했다. 

이와 관련 오픈AI는 "저희는 30개국 이상에 걸쳐 90명 이상의 의사(정신과 의사, 소아과 의사, 일반의)와 긴밀히 협력하고 있으며, 정신 건강, 청소년 개발, 인간-컴퓨터 상호 작용 분야의 전문가로 자문 그룹을 소집하고 있다"라고 밝혔다. 

AI 챗봇 관련 사회적 문제는 꾸준히 늘고 있다. 지난해 불안증에 시달리던 한 벨기에 남성이 '차이(Chai)'라는 대화형 챗봇과 대화를 한 뒤 극단적인 선택을 하는 사건이 발생했다. 남성이 세상을 떠난 뒤 가족들은 채팅 기록을 발견했고, 챗봇이 극단적 선택을 종용한 사실이 드러나 충격을 줬다.