스페인에서는 인공지능(AI)으로 생성한 콘텐츠에 제대로 된 표시를 하지 않으면 최대 3500만 유로(약 555억원)에 달하는 벌금을 물린다. 소위 '딥페이크'로 인한 피해를 최소화하기 위함이다.
스페인 정부가 최근 고위험으로 간주되는 AI 시스템에 엄격한 투명성 의무를 부과하는 유럽연합(EU)의 인공지능 관련 법안을 승인한 것으로 전해졌다.
오스카 로페즈 스페인 디지털전환부 장관는 "AI는 우리의 삶을 개선하는 데 사용할 수 있는 매우 강력한 도구"라며 "그러나 잘못된 정보를 퍼뜨리고 민주주의를 공격하는 데 사용할 수도 있다"라고 말했다. 해당 법안은 현재 하원 승인을 기다리고 있는 상태다.
법안이 최종 승인되면 EU 회원국 가운데 처음으로 스페인이 해당 법을 시행하는 국가가 된다. 법안에는 AI가 생성한 콘텐츠에 대한 적절한 라벨을 붙이지 않는 것을 '심각한 범죄'로 분류한다는 내용이 담겼다.
위반 시에는 최대 3500만 유로 또는 전 세계 연간 매출 7%에 해당하는 벌금이 부과된다고 규정하고 있다. 이 법안은 취약한 집단을 조종하기 위해 인지할 수 없는 소리와 이미지를 사용하는 것과 같은 관행을 금지한다.
로페즈 장관은 중독된 사람들을 도박으로 부추기는 챗봇이나 아이들에게 위험한 도전을 하도록 격려하는 행위를 예로 들었다. AI로 사람들을 분류하고, 행동이나 개인적 특성에 따라 등급을 매겨 혜택을 제공하거나, 범죄 위험성을 평가하는 행위를 금지하는 것도 불가능해질 전망이다.
로페즈 장관은 이 법안이 인공지능을 제한하는 것이 아니라 책임감 있는 방식으로 인공지능을 사용하기 위해 고안된 것이라고 했다. 이어 로페즈 장관은 "인공지능의 부정적인 사용으로부터 디지털 권리를 보호하고자 하며, 이를 위해 금지된 관행과 고위험 시스템을 식별한다"라고 덧붙였다.
AI포스트(AIPOST) 유형동 수석기자 aipostkorea@naver.com