"블랙핑크·아이브가 AI 모델로?"…걸그룹 AI 모델 악용 우려 위험!

아이브나 블랙핑크와 같은 국내 유명 걸그룹들이 똑같은 노출 의상을 입고 있는 사진 혹시 보신 적 있으신가요?

여러분 혹시 AI 모델 이미지를 공유하는 사이트인 시빗AI(CIVIT AI)라고 들어보셨나요? 사이트에 접속하면 정말 어마어마한 양의 AI 사진들을 볼 수 있는데, 게시된 파일들은 영국의 대표적 생성 AI 스타트업이죠.

스태빌리티 AI가 오픈소스로 공개한 이미지 생성 도구 ‘스테이블 디퓨전’을 통해 가공된 사진들입니다. 쉽게 말해서 딥페이크 이미지를 생성할 수 있는 툴인데 여기에다가 얼굴이나 자세 등을 결정하는 보조 프로그램까지 제공하고 있어요. 

PC에서도 쉽게 작동시킬 수 있어서 고해상도 합성 사진을 만들기 용이하다는 평가를 받고 있습니다. 시빗AI에 올라온 사진들은 최근에 유행했던 AI 프로필을 만들어주는 프로그램과는 전혀 다르구요. 

명령어를 이용해서 새롭게 만들어내는 생성 AI 사진입니다. 어떤 사진들이 있는지 천천히 살펴봤더니 SF 영화에 나올 법한 이미지나 유명한 애니메이션에서나 볼 법한 고퀄리티의 사진들을 열람할 수 있었어요.

다운로드 회수가 많은 순으로 나열해봤어요. 교황님의 사진도 볼 수 있었구요. 배우 샘 스미스가 할리퀸의 복장을 착용한 AI 사진도 볼 수 있었습니다. 가장 반응이 좋았던 사진들은 젤렌스키 우크라이나 대통령, 베트맨이 휠체어를 탄 사진, 아인슈타인이 선글라스를 쓴 모습까지 볼 수 있었습니다.

주커버그와 일론머스크가 링 위에서 대치하는 생동감 있게 제작되고 있었습니다. 이 외에 여러가지 키워드를 다수 검색해봤어요. 역시나 K-POP 아이돌들의 사진이 웹사이트 내에서 인기를 끌고 있는데요. 

가수 태연씨도 있고요. 트와이스, 아이브, 블랙핑크 웬만한 유명 아이돌은 다 있다고 보시면 돼요. 해당 사진을 올린 이용자들이 대부분 외국인이라 케이팝의 위상이 많이 높아졌구나하고 생각했는데, 아니나 다를까 우려하던 상황이 벌어지고 있었습니다.

특정 계정과 연동된 사이트로 접속해보니 국내 유명 아이돌들이 신체가 훤히 들어난 원피스나 짧은 바지를 입은 사진들이 공유되고 있는 실정입니다. 예쁘게 만든 사진이야 소속사나 아티스트에게 '팬심'으로 받아들여질 수 있는데, 이런 노골적인 사진은 악용의 우려가 있어서 그저 지켜만 보지는 않을 것 같고요. 

문제는 이 뿐만이 아니에요. 생성 AI 이미지로 만들어 낸 여성들의 이미지가 AI 룩북 콘텐츠로 활용되고 있다는 건데, 이건 약과에 불과합니다. 심지어 음란물로까지 만들어서 판매하고 있는 거 아세요?

유명인이 아닌 가상의 새로운 인물로 만들어내는 콘텐츠를 어떻게 받아들여야 할 지 사회적 논의가 더 필요하겠지만, 확실한 건 연예인이나 인플루언서의 초상권으로 창착물을 만들어 수익을 내면 민형사상 책임을 져야 한다는 겁니다.

해당 프로그램을 운영하는 회사의 입장은 어떨까요. 스테이블 디퓨전을 운영하는 스태빌리티 AI는 이렇게 밝힌 바 있죠. “불법 또는 악의적인 사용에 대해 법적 조치를 취하겠다”

이에 대해 워싱턴포스트는 “누구나 컴퓨터에서 손쉽게 제작할 수 있기 때문에 회사 규칙과 감독을 피할 수 있다”고 보도한 바 있어요. 이전 영상에서 다뤘던 AI 커버 노래처럼 AI 기술을 보다 창의적이고 건강하게 사용하기 위해서는 확실한 규제와 정책들이 수립돼야 할 것으로 보입니다. 감사합니다.