케임브리지대 연구진, 데드봇 규제 필요성 제시
세상을 먼저 떠난 가족, 지인과의 생전 대화 기록을 기반으로 인공지능(AI) 챗봇 형태로 재현하는 이른바 '데드봇' 서비스를 제공하는 회사가 늘고 있다. 고인에 대한 그리움을 달랠 수 있는 방법이라는 의견이 나오는 반면 '데드봇' 기술이 유족에게 심각한 심리적 피해를 가져다줄 수 있다는 연구 결과가 나왔다.
9일(현지시간) 영국 인디펜던트 등 외신보도에 따르면 영국 케임브리지대 연구팀은 최근 늘고 있는 '데드봇' 서비스가 살아남은 유족들에게 지속적인 정신적 피해를 초래하고 고인의 존엄을 훼손할 수 있어, 규제가 필요하다는 내용의 논문을 발표했다.
케임브리지대 리버흄 미래 지능 연구 센터(LCFI)의 토마스 홀라네크(Tomasz Hollanek) 박사는 "디지털 사후세계 서비스는 재현된 사람들뿐만 아니라 시뮬레이션과 상호 작용해야 하는 사람들의 권리와 동의를 고려해야 한다"라고 말했다.
데드봇은 사망한 가족이나 지인과 나눈 대화를 기반으로 고인을 AI 챗봇 형태로 재현하는 것을 의미한다. 고인과 대화를 나눌 수 있어 최근 관심을 받고 있는 기술이다. 연구진은 이러한 데드봇을 놓고 "잠재적인 심리적 영향은 파괴적일 수 있다"면서 지속적인 정신적 피해를 초래한다고 주장했다.
연구팀은 논문에서 최근 데드봇 서비스를 제공하는 회사가 점점 늘고 있지만 이에 대한 법적인 제재가 없어, 악용될 우려가 있다고 했다. 연구팀은 특히 일부 AI 챗봇 기업이 데드봇 기술을 활용해 광고 메시지를 보내는 방법을 자세히 설명한다. 이는 유족에게 더 큰 심리적 피해를 가져올 수 있다는 것을 의미한다.
데드봇이 광고성 메시지, 스팸 메시지를 보낸다면 유족은 마치 사망한 이에게 '디지털 스토킹'을 당하는 것과 같을 것이라고 연구팀은 설명했다. 미성년자가 노출될 경우 그 위험은 더욱 커질 수 있다. 연구팀은 데드봇이 미성년자와 대화하는 것, 일정 기간 이후 '디지털 장례' 절차를 도입하는 것 등의 적절한 규제가 필요하다고 강조했다.
논문의 공동 저자인 카타지나 노바치크-바신스카(Katarzyna Nowaczyk-Basinska) 박사는 "AI의 해당 영역은 현재 윤리적 지뢰밭"이라면서 "고인의 존엄을 최우선에 두고, 디지털 사후세계 서비스가 금전적 동기에 의해 악용되지 않도록 해야 한다"고 말했다.
AI포스트(AIPOST) 조형주 기자 aipostkorea@naver.com