일론 머스크의 xAI가 자사의 차세대 거대언어모델(LLM)인 그록-2(Grok-2)와 그록-2 미니를 출시했다. 출시하자마자 그록을 활용해 생성한 유력 정치인들의 가짜 인공지능(AI) 이미지가 확산하고 있어 문제가 되고 있다.
xAI는 13일(현지시간) 공식 블로그를 통해 자사의 주력 LLM인 그록-2와 그록-2 미니를 엑스(X)에 접목했다고 발표했다. 이에 사용자들은 X를 통해 베타 버전으로 제공되는 그록을 활용할 수 있게 됐다.
xAI는 "이전 모델인 그록 1.5보다 크게 발전한 그록-2의 베타 버전을 출시하게 돼 기쁘다. 채팅, 코딩, 추론 등 분야에서 최고의 성능을 제공한다"라며 "더 직관적이고 다재다능하다"라고 밝혔다.
그록은 경쟁 모델들처럼 이미지 생성 기능도 제공하고 있다. 그록-2로 생성한 AI 이미지들이 벌써부터 SNS를 통해 확산되고 있는 가운데 그록에는 특별한 규제 장치가 마련돼 있지 않아 가짜뉴스 문제가 커질 것이라는 우려가 나온다.
현재 SNS상에서 버락 오바마 전 미국 대통령, 트럼프 전 대통령 등과 같은 정치인들이 총을 쏘거나 불법 약물을 복용하는 모습 등의 사진이 공유되고 있다. 심지어 엑스에 해당 이미지들을 게시하더라도, AI가 생성했다는 별도의 라벨도 표시되지 않고 있는 실정이다.
이미지 생성 규제에 대한 문의에 엑스 측은 별다른 입장을 밝히지 않은 것으로 전해졌다. 한편 미국 대선을 앞두고 주요 AI 기업들은 유력 정치인의 가짜 이미지 생성을 차단하기 위해 특정 프롬프트 사용을 제한하는 등 장치를 시행하고 있다.
AI포스트(AIPOST) 유진 기자 aipostkorea@naver.com