"아이들도 AI로 아동 음란물 이미지 만든다"…英 전문가들 경고

어렵게만 여겨졌던 인공지능(AI)은 더 이상 어른들의 전유물이 아니게 됐다. 이제는 누구나 마음만 먹으면 인터넷상에서 생성형 AI 기술을 이용해 손쉽게 원하는 이미지를 만들 수 있다. 문제는 이 같은 AI 기술이 잘못된 방향으로 무분별하게 악용되고 있다는 것. 최근 영국에서는 아이들도 AI로 아동 음란물 이미지를 제작해 논란이 되고 있다.

27일(현지시간) 영국 일간지 더 가디언 등 외신은 최근 영국 미성년 학생들이 생성형 AI 기술을 활용해 다른 아이들의 외설적인 음란물 이미지를 만들어내고 있다고 보도했다. 이에 영국 안전한 인터넷 센터(UK Safer Internet Centre, UKSIC)를 비롯한 보호 단체와 전문가들은 학생들에게 아동 성착취·성학대 이미지 제작의 위험성에 대해 경각심을 일깨울 수 있도록 대책 마련이 시급하다고 주장했다.

영국 인터넷감시재단(IWF, Internet Watch Foundation)에서 활동 중인 엠마 하디(Emma Hardy) UKSIC 소장은 해당 사진들이 무서울 만큼 사실적이고 이미지의 품질도 전문적인 사진에 필적할 정도라고 지적했다. AI로 생성된 아이들의 이미지가 진짜 사진 같아 자칫 이미지 속 아동들이 실제 성적 학대의 피해자로 인식될 수 있다는 이야기다. 아울러 이 같은 사진들이 인터넷상에 퍼졌을 경우 성범죄자 등에게 노출돼 또 다른 피해를 야기할 수 있다며 AI 기술의 오남용 가능성을 우려했다.

UKSIC는 아동 성착취물 근절 시스템을 마련하기 위해 학교에서 발빠르게 움직일 필요가 있다고 강조했다. 또 학생들의 AI 아동 음란 이미지 제작 실태에 놀랄 게 아니라, 대중이 AI 이미지 생성기와 같은 신기술에 접근하기 쉬워진 만큼 이러한 부작용도 예상되어야 한다고 말했다. 아직까지는 발생 건수가 많지 않지만 이로 인해 야기될 수 있는 해악을 충분히 인식하지 못한 채 AI 이미지 생성기를 무분별하게 사용하는 일이 없도록 문제가 더 커지기 전에 즉각적인 조치가 필요하다는 설명이다.  

한편 영국에서 아동 성 학대 이미지를 제작·소지·유포하는 행위는 AI로 생성된 것이든 실제 촬영한 사진이든 상관 없이 불법이다. 아동을 성적으로 학대하는 것을 만화로 그리거나 비교적 사실적이지 않게 묘사하더라도 마찬가지다. 지난 달 IWF는 AI로 생성된 불법적인 아동 성 학대 이미지가 인터넷상에서 빠르게 확산되고 있다고 경고한 바 있다.