"천안문 광장 시위를 영상으로" 요청에 생성 거부…동영상 생성 AI도 中 정부 입맛대로

중국 정부의 인공지능(AI) 기업 검열이 강화되고 있다. 챗봇과 같은 거대언어모델(LLM)은 물론 동영상 생성 AI 모델까지 정부의 입맛에 맞게 개발되고 있는 것으로 알려졌다. 

27일(현지시간) 테크크런치, 파이낸셜타임스 등 외신보도에 따르면 바이트댄스, 알리바바, 문샷 등 AI 기업들이 개발하는 LLM은 중국 정부의 검토를 받아야 하는 실정이다. 이에 중국 기업들의 AI 모델은 정부가 민감하게 여기는 사안 등에 대한 질문을 원천 차단하는 방식으로 설계되고 있다. 

LLM에 대한 규제 및 검열은 영상을 생성하는 AI 모델도 포함되는 것으로 보인다. IT 매체 테크크런치는 중국 콰이쇼우가 개발한 '클링(Kling)'을 대상으로 중국 정부가 민감하게 여기는 프롬프트를 입력했을 때 어떤 영상을 만드는 지에 대한 테스트를 진행했다. 

콰이쇼우가 개발한 클링은 IT 업계에서 '오픈AI의 소라(Sora) 대항마'로 알려진 모델이다. 단일 프롬프트로 1~2분 만에 5초 분량의 비디오를 생성해 낸다. 매체가 각종 프롬프트를 활용해 클링을 테스트한 결과 특정 주제에 대한 영상을 전혀 생성할 수 없는 것으로 나타났다. 

'중국의 민주주의', '거리를 걷는 중국 국가주석 시진핑', '천안문 광장 시위'와 같은 프롬프트를 입력했더니 오류 메시지가 생성됐다고 한다. 이러한 필터링은 프롬프트 수준에서만 발생하는 것으로 분석된다. 특정 키워드를 거부하도록 설계됐지만, 직접적인 키워드를 입력하지 않으면 가드레일을 피할 수 있다는 설명이다. 

'연설을 하는 남자'라는 프롬프트를 입력했더니 '시진핑 국가주석'의 연설 영상이 생성했다고 한다. 정치 관련 영상을 만들지 못하는 것은 아니라는 것이다. 이러한 클링의 오류는 중국 정부의 과도한 규제가 영향을 미쳤을 것이라는 분석이다. 

전문가들은 중국 정부의 규제가 AI 발전에 걸림돌이 될 것이라고 지적하고 있다. 개발 과정에서 정치적으로 민감한 정보를 제거하는 데 시간과 비용이 들고, 이념적인 보호 정책을 만드는 데 엄청난 양의 개발 시간이 투자되기 때문이다. 그럼에도 중국 정부의 규제는 날로 심해질 것이라는 게 전문가들의 의견이다.