[송태민의 IT온에어] "나 대통령인데, 전자책 무료로 줄게"…SNS서 성행하는 AI 활용 사기범죄 심각

전 세계 수사기관들 모두가 주목하는 기술이 있다. 인공지능(AI) 딥페이크, 목소리 복제 등 기술이다. 최근 사기꾼들이 AI, IT 기술을 활용해 가짜를 진짜처럼 변형시켜, 범죄에 활용하는 사례가 늘고 있다. 수법이 날로 다양해지고 있다. 피해를 예방하기 위해서는 국민들 스스로가 이에 대해 관심을 갖고 들여다보고, 자체적으로 식별해내는 능력을 키우는 것도 중요하다는 제언이다. 

딥페이크 범죄에 앞서 우리가 깊게 고민해봐야 하는 특정 사례에 대해 소개하고자 한다. 일론 머스크 테슬라 CEO(최고경영자)가 설립한 스타트업 엑스AI(xAI)는 최근 AI 챗봇 '그록'을 선보였다. 향후 소셜미디어 엑스(옛 트위터)와 통합될 것으로 알려지면서 기존 챗봇과 차별화된 모델이 될 것이라는 평가를 받고 있다.  

이와 관련 일론 머스크는 트위터에 'xAI'와 관련된 게시글을 올렸다. AI도 재미 있는 답변을 할 수 있다는 취지에서다. 내용은 이렇다. 코카인 제조 방법을 'xAI'에 묻자 단계에 따른 방법을 상세히 소개한다. 그러고는 농담이라며 코카인은 불법이니 제조하지 말라는 조언을 해준다. 미국식 유머로 받아들이는 이용자들도 있을 수 있으나, 이를 실제로 따라할 분들이 있다고 생각해보면 등골이 오싹한 답변이다. 

소개한 사례에서 알 수 있듯이 생성형 AI를 어떻게 활용하느냐에 따라 사회에 미치는 영향이 크게 달라진다. AI 딥페이크, 목소리 복제 등 기술을 범죄에 악용하는 사기꾼들이 폭증하면서 'AI의 이면'에 대한 뉴스도 덩달아 늘어나는 추세다. AI는 인류를 이롭게 위한 방향으로 쓰여야 한다는 것이 각계가 바라는 길일 것이다. 그러나 현실은 '범죄의 보조도구'로 활용되고 있어 안타까운 마음이 크다. 

알아야 예방도 할 수 있다. 기시다 후미오 일본 총리가 외설적인 발언을 하는 영상이 급속도로 유포된 바 있다. AI로 인한 것임이 확인되면서 논란이 되기도 했다. 일반인들이 보면 실제 기시다 후미오 총리라고 착각할만한 수준이다. 필자와 같이 IT 기술을 적극 활용하고 있거나 관심이 있는 분들이라면 가짜라고 구별해낼 수 있을 정도라고 평가된다. 

이런 범죄 관련 콘텐츠들은 SNS를 통해 급속도로 확산된다. 그렇기 때문에 수사당국이 손을 쓰기도 전에 어마어마한 조회수를 기록하게 된다. 스스로 식별할 수 있는 능력을 키워야 하는 이유이기도 하다. 이재용 삼성전자 회장, 백종원씨, 유튜버 슈카월드 등을 사칭한 광고를 한 번쯤 봤을 것이다. 이는 명백히 투자를 유도하는 범죄이니 경계해야 한다. 심지어 대통령이 나오는 광고까지 나왔다. 

무료로 전자책을 준다는 내용이다. 누가 봐도 사기인데, 피해자가 나오고 있으니 안타까운 마음이 크다. 이에 대해 피해 신고를 하더라도 대형 플랫폼 측에서는 뒷짐을 지는 경우가 다반사다. 유명인의 얼굴을 합성시키는 식으로 범죄에 이용하는데, 해외에서 피해를 보는 분들이 많아 국내에서 해결하기 어려운 것이 현실이다. '거듭 의심해야 한다', 'AI 기술에 관심을 갖고 공부해야 피해를 예방한다'라는 말을 국민분들께 거듭 강조드리고 싶다. 

AI포스트(AIPOST) 송태민 히든브레인연구소 소장 blackpeachlove@gmail.com