브루스 리드 백악관 부비서실장 '음성 복제' 기술 우려 표명
AI 활용 '보이스 피싱' 증가…3~4초만 학습해도 '85% 일치'
"언어 장벽 깨고 전 세계와 소통 가능케" 긍정적 의견도 나와
바이든 행정부의 인공지능(AI) 전략을 주도하는 책임을 맡고 있는 브루스 리드(Bruce Reed) 백악관 부비서실장이 AI 음성 복제 기술에 대한 깊은 우려의 목소리를 내고 있다.
6일(현지시간) 비즈니스인사이더 등 외신 보도에 따르면 사람의 목소리를 실감나게 재현할 수 있는 AI 기술이 미국 내 국회의원·정책 입안자들의 주요 관심사항이자 우려사항으로 떠오르고 있다.
브루스 리드 부비서실장은 최근 미국 정치전문매체 폴리티코(POLITICO)와의 인터뷰에서 "음성 복제는 나를 밤잠 설치게 하는 것 중 하나"라고 말했다. 이어 브루스 리드는 "아직 상당히 새로운 기술임에도 무서울 정도로 기술이 뛰어나다"고 표현했다.
그러면서 기술의 악용 우려에 대해 언급했다. 그는 "완벽한 음성 복제 기술이 얼마나 우리의 삶을 혼란스럽게 만들 수 있는지 아직 사회에 제대로 알려지지 않았다"며 "상대편의 목소리가 진짜인지 가짜인지 확신할 수 없다면 누구도 전화를 받지 않을 것이다"고 말했다.
브루스 리드의 경고와 같이 최근 들어 AI 음성 복제 기술를 악용하는 사례가 늘고 있다. 미국 연방거래위원회(FTC)는 지난 3월 사기꾼들이 AI 기술을 활용해 가정을 대상으로 사기 행각을 벌이고 있다고 밝혔다. 가족 구성원 중 한 명이 곤경에 처해 있는 것처럼 속이는 것이다.
지난 4월에는 애리조나주에 거주하는 한 어머니가 사기를 당하기도 했다. 자신의 딸과 똑같은 목소리의 음성으로 납치를 당했다는 내용의 전화를 받은 것. 그녀는 당시 지역 뉴스 매체에 "그건 완전히 그녀의 목소리였다"라고 말했다. 보안 소프트웨어 'McAfee'의 보고서에 따르면 사기꾼은 누군가의 목소리를 3~4초만 녹음하면 85% 일치하는 복제물을 만들 수 있다고 한다.
반면 AI 음성 복제 기술 활용에 적극 나서는 이들도 있다. 뉴욕시장 에릭 애덤스(Eric Adams)는 AI 음성 복제 기술을 놓고 "더 넓은 도시의 인구와 소통하는데 도움이 됐다"고 이야기했다. 실제 그는 지난해부터 중국어, 스페인어 등을 포함해 자신이 구사하지 못하는 언어권의 주민들에게 자동녹음전화를 걸어 왔다.
애덤스는 도시의 비영어권 주민들과 소통하는데 도움이 됐다고 평가했다. 이를 놓고 일부 학계와 개인 정보 보호 전문가들은 애덤스의 계획이 기만적이라고 평가하며 '정치인들이 AI를 사용하는 방법'에 대한 명확한 기준을 설정해야 한다고 지적하고 있다.
AI포스트(AIPOST) 유진 기자 aipostkorea@naver.com