최근 인하대에서 여학생 사진을 음란물과 합성해 유포한 ‘딥페이크 성착취물' 사건이 발생했다. 얼굴만 합성한 것이 아니라 피해자의 목소리까지 도용됐다. 성적인 의미를 가진 단어를 피해자의 목소리로 말하는 것처럼 만들기도 했다. 해당 영상이 공유된 대화방의 참가자는 1200명에 이르고, 피해자의 상당수는 인하대생으로 밝혀졌다.
대학가뿐만이 아니다. 전국 각지에서 10대 청소년을 중심으로 한 딥페이크 집단 성범죄가 독버섯 번지듯 퍼져 나가고 있다. 이들의 가장 큰 문제는 동급생들이나 여교사 얼굴로 딥페이크 영상을 만들어 유포하는 일을 대수롭지 않게 생각한다는 점이다. 영상을 판매해 돈벌이 수단으로 삼는 범죄 행태까지 나타나고 있다.
인공지능(AI) 등을 활용해 만든 딥페이크 영상은 매우 빠른 속도로 광범위하게 유통된다. 그래서 사후에 조치를 취하더라도 흔적을 완전히 지우기 어려운 게 현실이다. 그 과정에서 피해자들은 일상이 무너진다. 평소 알고 지냈던 지인이 일으킨 범죄이기에 충격은 더욱 클 수밖에 없다. 선제적인 대응책과 함께 강력한 처벌이 필요한 이유다.
AI 발전 속도를 볼 때 사회적 안전을 위한 규범이 서둘러 마련돼야 한다. AI 기술은 성범죄를 포함한 다양한 범죄 영역에 악용되고 있다. 적극적이고 체계적인 규제가 필요하다. 미국에선 AI 제작물 표시를 의무화하는 등 본격적인 규제에 나서고 있다. 유럽연합(EU)은 세계 최초로 AI 규제법을 제정했다. 무분별한 AI 기술 이용을 규제하기 위함이다.
'IT 강국' 한국의 상황은 어떤가. AI 규제법 등 제대로 된 가이드라인조차 확보돼 있지 않다. 'AI 산업 육성 및 신뢰 기반 조성에 관한 법률안(AI 기본법)'이 지난 21대 국회에 발의됐지만, 통과하지 못했다. AI 기본법은 AI 산업 육성에 필요한 지원과 더불어 '딥페이크 범죄' 등을 방지하기 위한 고위험 AI에 대한 정의도 명시하고 있다.
22대 국회에서도 AI 기본법을 포함한 6개의 AI 법안이 발의됐지만, 계류 중이다. AI 제작물에 워터마크 표시를 의무화하는 정보통신망법 개정안도 마찬가지다. ‘AI 기본법’은 지난 국회에서 여야가 사실상 합의한 법안이다. 디지털 성범죄 피해자들의 기하급수적으로 늘고 있는 만큼 조속히 AI 규제 가이드라인을 만들어야 한다. 여야가 각종 현안을 놓고 공방을 벌이더라도 'AI 기본법'이 후순위로 밀리는 일이 없어야 한다.
AI포스트(AIPOST) 유형동 대표·발행인 aipostkorea@naver.com