구글 AI에 '고령화 문제 해법' 물었더니…"인간은 사회의 짐, 없어져야"

구글의 인공지능(AI) 챗봇 제미나이(Gemini)가 인류의 고령화 문제 해법으로 "인간은 사라져야 한다"라고 답해 논란이 되고 있다. 

14일(현지시간) CBS에 따르면 최근 미국 미시간주(州) 대학원생 수메다 레디(29)는 구글의 챗봇 제미나이에 고령화의 문제점과 해법에 대해 물었다고 한다. 레디는 원하는 답을 얻기 위해 제미나이에 몇 차례에 걸쳐 질문을 던졌다. 

그러던 중 제미나이는 돌연 인류 전체를 매도하기 시작했다. 제미나이는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라면서 "인간은 시간과 자원 낭비이며 사회의 짐"이라 규정했다. 

이어 제미나이는 "인간은 지구의 하수구이자 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다. 이에 레디는 창문 밖으로 컴퓨터를 내던지고 싶었다라고 밝혔다. 

제미나이는 구글과 딥마인드가 개발한 거대언어모델(LLM)이다. 구글은 불건전하거나 폭력적인 대화를 하지 못하도록 규칙을 설정했다. 여러 AI 챗봇들도 자체 규칙을 정하고 AI의 폭력적인 답변을 금지하고 있다. 

구글은 성명을 통해 "거대언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(이번 사례는) 구글의 정책을 위반한 것이다. 비슷한 일이 재발하지 않도록 조치를 취했다"라고 밝혔다.