美 대선 앞두고 AI 위협 현실화…미드저니, 대선후보 AI 이미지 생성 한시적 금지 검토

최근 미국 뉴햄프셔주(州) 프라이머리(예비선거)를 앞두고 민주당 당원에게 투표 거부를 독려하는 조 바이든 대통령의 딥페이크 음성이 유포되며 정부의 수사가 진행 중이다. 미국 대선을 앞두고 인공지능(AI)의 위협이 현실화되자 생성형 AI 기업인 미드저니(Midjourney)가 주요 미국 대선 후보의 정치적 이미지를 생성하는 것을 금지하는 방안을 검토 중인 것으로 알려졌다.

9일(현지시간) 엔가젯 등 외신 보도에 따르면 데이비드 홀츠(David Holz) 미드저니 CEO는 “미드저니가 미국 대통령 선거와 관련해 조 바이든(Joe Biden)과 도널드 트럼프(Donald Trump)와 같은 주요 대선 후보의 정치적 이미지 생성을 향후 12개월 동안 금지하는 것을 고려하고 있다”고 밝혔다.

잘못된 인공지능 사진이 잘못된 정보를 퍼뜨리는 데 악용되는 것을 방지하기 위함이다. 홀츠는 “트럼프 사진을 만드는 것이 재미있다는 것을 안다. 미학적으로 매우 흥미롭다”면서도 “그러나 하지 않는 것이 더 나올 것이다. 이번 선거에서는 조금 물러나는 것이 더 나을 것”이라고 설명했다.

앞서 미드저니는 체포되는 트럼프, 명품 재킷을 입은 교황 사진 등을 제작하는데 사용된 바 있다. 특히 지난해 말 'V6.0' 알파모델이 등장하며 특정 문구를 사진에 새기는 것도 가능해졌다. 이 외 다른 기술 회사들도 허위 정보 생성을 방지하거나 최소한 식별을 더욱 쉽게 하기 위해 각종 정책을 수립하고 있다. 

메타는 AI 도구로 생성된 게시물에 별도의 라벨을 붙이는 기술을 개발 중이다. 정부 차원에서의 노력도 이어지고 있다. 미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지한 바 있다. 딥페이크 선거운동을 규제하기 위한 법안 발의도 잇따르고 있는 상황이다.