"핵무기 도입만큼이나 안보를 불안정하게 만들 가능성 있다"
국무부 의뢰로 AI 최고경영진 등 200여 명 인터뷰 내용 담아
보고서 저자 'AI 감독 기관 설립, AI 컴퓨터 성능 제한 방안' 제시
미국 국무부 의뢰로 작성된 보고서에 인공지능(AI)이 인류를 멸종시킬 수준의 위협이 될 수 있다는 경고가 나왔다. 보고서는 핵무기 도입만큼이나 세계 안보를 불안정하게 만들 가능성이 있다는 주장이 나오면서 미국 정부가 긴급히 개입할 필요가 있다고 지적했다.
12일(현지시간) 미국 CNN 방송은 보고서 내용을 전하면서 "빠르게 진화하는 AI로 인한 재앙적인 국가 안보 위험에 대한 경고"라고 말했다. CNN은 또 보고서에 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다는 경고도 담겼다고 덧붙였다.
이 보고서는 1년여에 걸쳐 오픈AI·구글과 같은 주요 AI 기업의 경영진, 사이버 보안 연구원, 대량살상무기 전문가, 안보 관련 당국자 등을 인터뷰한 내용을 토대로 작성됐다. 인터뷰에 참여한 사람은 200명이 넘는다. 미국 국무부 측은 "AI의 발전이 미국의 이익 보호라는 목표와 일치하는지 혹은 상충하는지를 평가하기 위해 보고서를 글래드스톤 AI 측에 의뢰했다"고 전해졌다.
보고서는 AI가 가져올 수 있는 위험을 크게 두 가지로 정리했다. 우선 가장 발전한 AI 시스템이 무기화되어 잠재적으로 돌이킬 수 없는 피해를 줄 수 있다는 것. AI 개발 경쟁이 치열해질수록 기업들이 안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있다며 무기화 가능성 등을 경고했다. 결국 AI가 무기로 변질될 가능성이 있다는 것이다.
보고서는 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다는 개별적인 우려들도 있다라고 했다. 보고서는 "AI와 AGI(범용인공지능)의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 "AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다"고 예상했다.
보고서는 AI의 위협에 대응하기 위해 획기적인 조치에 나설 것을 촉구했다. 새로운 AI 감독 기관과 긴급 규제 안전장치를 만들고 AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안 등을 제시했다. 보고서 저자들은 "미국 정부가 개입해야 할 분명하면서 긴급한 필요성이 있다"고 주장했다.
AI포스트(AIPOST) 진광성 기자 aipostkorea@naver.com