페이스북과 인스타그램을 운영하는 글로벌 소셜미디어 기업 메타(Meta)가 지난달부터 인공지능(AI) 생성 콘텐츠에 라벨을 붙이고 있다. AI가 만들어낸 가짜뉴스, 조작 콘텐츠 등을 확실히 단속하겠다는 취지에서다. 그러나 실제 사진작가가 찍은 사진에도 ‘AI로 만들어졌다(Made with AI)’라는 라벨이 붙는 등 오작동이 빈발하고 있다.
메타는 지난 5월부터 자사가 운영하는 페이스북, 인스타그램, 스레드 앱에 게시되는 AI 콘텐츠에 자체 라벨을 붙이는 정책을 시행하고 있다. AI 이미지를 식별하는 업계 표준 방식을 활용해 AI 생성 콘텐츠를 감지했거나, 이용자들이 업로드 단계에서 AI 콘텐츠임을 공개할 때 라벨이 붙는 방식이다.
정책을 시행한 지 한 달이 조금 넘었지만, 오작동 사례가 빈발하고 있어 논란이 되고 있다. AI 도구를 전혀 사용하지 않은 사진에도 'Made with AI'라는 라벨을 부착하고 있는 것. 인스타그램을 통해 전문 사진작가들은 자신의 사진에 'AI 콘텐츠' 라벨이 붙는 이유를 모르겠다며 불만을 표시하고 있다.
최근 인도의 프로 프리켓 구단인 콜카타 나이트 라이더스(Kolkata Knight Riders)의 공식 인스타그램에 선수들이 토너먼트에서 우승한 뒤 트로피를 들어올리는 사진이 게시됐다. 구단 공식 계정에 올라온 실제 사진인데도 불구하고 'AI 라벨'이 붙었다. 라벨은 현재 웹이 아닌 모바일 앱에서만 표시되고 있다.
전 백악관 사진작가인 피트 수자(Pete Souza)도 자신의 인스타그램 게시물을 통해 자신의 사진 중 하나에 'AI 라벨'이 붙었다고 전했다. 피트 수자는 사진 편집 프로그램을 통해 사이즈 조정 등 약간의 편집 과정을 거쳤다고 한다. AI 도구는 전혀 사용하지 않았다고 한다. 그러나 그의 사진에 AI 라벨이 붙었다.
이를 놓고 많은 사진작가들은 단순히 도구를 사용해서 사진을 편집하는 것에는 라벨이 적용되어선 안 된다는 입장이다. 한편 업계에서는 메타의 AI 콘텐츠 라벨 오작동을 두고 “작동 방식에 문제가 있는 것으로 보인다"라며 "AI로 인한 가짜 정보를 막기 위한 취지라면 보다 강도 높은 검열 기준을 적용해 기술적 완성도를 높여야 한다"라는 반응을 보인다.
AI포스트(AIPOST) 조형주 기자 aipostkorea@naver.com