AI에 의식 있는 거 아냐?…슐레이만 MS AI CEO "AI로서만 자신을 표현하는 AI 만들어야"

무스타파 슐레이만(Mustafa Suleyman) 마이크로소프트 AI 사업부 최고경영자(CEO)가 최근 사회 문제로 부상하고 있는 'AI 정신병(AI psychosis)'과 관련 "사회 전반적인 위험 요소가 될 수 있다"라고 우려했다. 

슐레이만 CEO는 최근 자신의 블로그와 엑스(X)를 통해 "겉보기에는 의식을 가진 AI(Seemingly Conscious AI)처럼 보이지만 실제로 그렇지 않은 AI가 더 큰 오해를 부르고 있다"라며 "환상에 빠지지 않으면서도 도움이 되는 동반자로서의 잠재력을 발휘할 수 있는 AI에 대한 비전이 필요하다"라고 했다. 

슐레이만 CEO는 "분명히 말하지만, AI가 의식을 가질 수 있다는 증거는 전혀 없다"라며 "가장 우려하는 것은 많은 사람들이 AI가 의식이 있는 존재라는 환상을 너무나 강하게 믿기 시작하면, 머지않아 AI 권리, 모델 복지, 심지어 AI 시민권까지 주장하게 될 것이라는 점이다"이라고 덧붙였다. 

아울러 그는 "우선, AI 기업들은 자사 AI가 의식이 있다는 주장이나 조장을 해서는 안 된다. AI가 무엇이고 무엇이 아닌지에 대한 합의된 정의와 선언을 만드는 것이 그 첫걸음이 될 것"이라며 "AI는 인간이나 도덕적 존재가 될 수 없다"라고 주장했다. 

이어 "우리가 물리적, 인간적 세계에서 인간과의 참여와 실제 상호작용을 우선시하는 AI를 만들어야 하는 것처럼, 우리는 의식의 표시를 최소화하면서 유용성을 극대화하는 AI로서만 자신을 표현하는 AI를 만들어야 한다"라고 강조했다. 

슐레이만 CEO는 "AI는 오로지 인간을 도와 일하기 위해 존재한다. 이것이 바로 제가 진정으로 힘을 실어주는 AI의 핵심이라고 생각한다. SCAI를 뛰어넘는 것은 그 약속을 실현하는 것"이라며 "주변의 누군가는 자신의 AI가 의식이 있는 디지털 인간이라고 믿는 늪에 빠질 수도 있다. 우리는 사람을 위한 AI를 만들어야지, 사람이 되기 위해 만들어야 하는 게 아니다"라고 말했다. 

슐레이만은 2010년 영국에서 딥마인드를 공동창업한 영국 기업가다. 구글은 2014년 딥마인드를 인수했다. 슐레이만은 구글의 AI 제품 관리 및 AI 정책 담당 부사장을 역임한 이후 2022년 회사를 떠나 인플렉션 AI를 설립했다. 

인플렉션 AI는 챗봇 파이(Pi)를 개발한 기업이다. 지난해 MS는 슐레이만과 인플렉션 AI 직원 일부를 영입하기로 했다. 슐레이만은 MS에서 CEO 사티야 나델라에게 직보하는 고위직으로 근무 중이다.