딥러닝 분야 세계 최고 권위자인 요슈아 벤지오(Yoshua Bengio) 몬트리올대 교수가 인공지능(AI) 에이전트의 위험성에 대해 경고했다. 자율적으로 작동하는 AI 모델이 '재앙적 사건'을 일으킬 수 있다는 우려에서다.
벤지오 교수는 최근 스위스 다보스에서 열린 세계경제포럼에 참여해 AI 에이전트가 좋지 않은 결과를 가져올 수 있다고 주장했다. 비즈니스 인사이더에 따르면 벤지오 교수는 "인공일반지능(AGI) 또는 초지능과 관련된 모든 재앙적인 사건은 에이전트가 있을 때 발생한다"라고 전했다.
벤지오 교수는 "인간에게 정말 유용한 과학 및 의학을 위한 AI 모델은 비작용적이다"라며 "우리는 에이전트 시스템을 구축하지 않고도 AGI를 달성할 수 있을 것으로 믿는다"라고 했다.
벤지오 교수는 "에이전트 없이도 인간의 추론 수준을 달성하는 것이 가능하다고 믿는다. 아직 쉽지 않은 일이다"라며 "우리는 안전하고 유능한 AI를 지속 개발할 수 있지만 위험을 고려하고, 그것이 어디서 나오는지 과학적으로 이해한 다음 기술적 투자를 해야 한다"라고 강조했다.
한편 AI 4대천왕 중 한 명인 얀 르쿤 뉴욕대 교수는 세계경제포럼에서 새로운 AI 시대가 도래할 것이라고 주장했다. 얀 르쿤 교수는 "인공지능과 로봇공학의 발전이 결합돼 새로운 종류의 지능형 애플리케이션이 탄생할 것"이라며 "아마도 다가올 10년은 로봇의 10년이 될 것"이라고 밝혔다.
이어 얀 르쿤 교수는 "3~5년 내 기존 AI 시스템의 역량을 훨씬 뛰어넘는 'AI 아키텍처의 새로운 패러다임이 등장할 것"이라며 "어쩌면 우리는 실제 세계가 어떻게 작동하는지 이해할 만큼 충분히 똑똑한 AI 시스템을 갖게 될 수 있다"라고 덧붙였다.
AI포스트(AIPOST) 조형주 기자 aipostkorea@naver.com