생성형 인공지능(AI)은 진짜와 비슷하지만, 존재하지 않는 정보를 지어내거나 조작하는 환각(hallucination) 현상을 보인다. 이러한 환각 현상이 인공일반지능(AGI)에 도달하는 걸림돌이 되고 있다는 지적이 제기되고 있다.
이와 관련 클로드 개발사 앤트로픽의 최고경영자(CEO)가 환각 현상이 AGI에 도달하는 걸림돌이 아니며, 유사한 정보를 지어내거나 조작해 사실인 것처럼 말하는 비율도 인간보다 낮다고 주장해 눈길을 끈다.
테크크런치 보도에 따르면 다리오 아모데이 CEO는 최근 앤트로픽의 첫 번째 개발자 이벤트인 '코드 위드 클로드(Code with Claude)' 행사를 통해 이같이 밝혔다. 아모데이의 이러한 주장은 AGI의 실현 가능성에 대한 질문을 답하는 과정에서 나왔다. 아모데이 CEO는 AGI 실현에 있어 장애물이 보이지 않는다고 답했다.
그는 "측정 방법에 따라 다르겠지만, AI 모델은 인간보다 더 적게 환각 현상을 보인다. 이것도 더 놀라운 방식으로 헛소리를 내놓는다"라고 말했다.
아모데이 CEO는 "TV 방송인, 정치인 등 모든 직종의 사람들은 항상 실수를 저지른다"라고 했다. AI가 터무니없는 답변을 내놓더라도, 이는 지능 부족에서 기인한 것이 아니라는 의미다.
다만 확신에 찬 어조로 허위 정보를 사실처럼 말하는 건 문제가 될 수 있다는 점을 그는 인정했다. 앤트로픽은 그동안 AI 환각 분야의 연구를 꾸준히 진행해 왔다. 환각 현상은 앤트로픽이 최근 출시한 클로드 오퍼스 4 모델에서 두드러지는 문제였다.
그럼에도 아모데이 CEO는 앤트로픽 모델이 환각 현상을 보이더라도 AGI 실현에 걸림돌이 없음을 주장했다. 한편 다른 AI 기업 리더들의 시각은 엇갈린다.
데미스 하사비스 구글 딥마인드 CEO는 AI 모델에는 '허점'이 많고, 명백한 질문에도 너무 많은 오류를 범하고 있다고 말했다. AGI 진입 가능성에 대한 회의적인 입장을 내비쳤다. 실제 이달 초 앤트로픽 측 변호사는 클로드를 사용한 법원 서류 속 인용문이 잘못돼 법정에 사과하기도 했다.
AI포스트(AIPOST) 유형동 수석기자 aipostkorea@naver.com