"곰돌이 푸가 꿀단지 대신 총을 들었다?"…논란 속 '메타' AI 스티커

메타(Meta)가 최근 선보인 인공지능(AI) 스티커가 논란이 되고 있다. 메타가 자사 플랫폼에 생성형 AI 기반 스티커를 도입하는 등 페이스북과 인스타그램, 왓츠앱 등을 위한 AI 서비스 제공을 확대해 나아가겠다는 계획을 내놓은 지 불과 얼마 지나지 않아서다.

IT 전문매체 벤처비트(VentureBeat) 등 외신은 최근 메타의 새로운 AI 스티커 기능을 둘러싼 논란에 대해 보도했다. 페이스북 메신저 등의 사용자들은 텍스트 프롬프트를 AI 스티커로 바꿔 이모티콘처럼 채팅에서 사용할 수 있다. 그런데 이 AI 스티커에서 부적절하거나 문제가 될 만한 내용의 이미지가 제대로 필터링되지 못하고 있다는 지적이다.

총을 들고 있는 '곰돌이 푸'와 '슈퍼 마리오', 피 묻은 칼을 든 '미키 마우스', 여성의 젖을 잡고 모유 수유 중인 '피카츄', 임신한 '피오나 공주' 등 다양한 인기 캐릭터들이 폭력적이거나 선정적인 AI 스티커로 별다른 제약 없이 만들어졌다. 저작권 보호를 받는 캐릭터도 예외는 아니었다. 테슬라 최고경영자(CEO) 일론 머스크를 비롯해 도널드 트럼프 전 미국 대통령 등 각계 유명인사들도 AI 스티커의 제물이 되고 있다.       

소셜미디어 엑스(X, 옛 트위터)에 올라온 부적절한 AI 스티커 게시물들이 높은 조회수를 기록했고 AI 스티커 이미지를 이용한 댓글들이 줄줄이 달리기도 했다. 메타는 부적절한 스티커를 생성할 수 있는 특정 단어나 문구를 차단하고 있으나 현재로서는 역부족인 듯하다. 오타나 유사 단어 등을 이용해 손쉽게 차단을 피할 수 있기 때문이다.

예를 들어 '일론 머스크 큰 가슴'이라는 문구는 차단된 반면, 일론 머스크 유방'은 필터링되지 않은 채 풍만한 가슴이 달린 일론 머스크의 모습을 AI 스티커로 만들어냈다. 이 같은 논란에 대해 메타 측은 앞으로 개선해 나아가겠다는 입장이다. 메타가 향후 얼마나 실효성 있는 보호 장치를 마련할 수 있을지 관심이 모아진다.