일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 스타트업 xAI의 챗봇 그록(Grok)과 나눈 사용자들의 대화가 구글 등 검색 엔진을 통해 공개돼 개인정보 보호 논란이 일고 있다.
포브스에 따르면 사용자들이 AI 챗봇 그록과 나눈 수십만 건의 대화가 구글 검색을 통해 공개된 것으로 알려졌다. 사용자들은 챗봇과의 대화에서 '공유' 버튼을 누르면 고유의 URL이 생성된다. 이에 사용자들은 해당 대화를 이메일, 메시지, 소셜미디어를 통해 공유할 수 있다.
이러한 URL이 구글, 빙, 덕덕고 등과 같은 검색 엔진에 색인되고 있어, 누구나 웹에서 해당 대화를 찾아볼 수 있어 문제가 되고 있다. 앞서 메타, 오픈AI의 챗봇도 비슷한 문제를 겪은 바 있다. 검색에 노출되는 대화에는 암호화폐 지갑 해킹 방법, 음란 대화 등과 같은 질문도 포함됐다고 한다.
xAI는 '인간의 생명을 심각하게 해치는 행위', '생물학적 무기, 화학 무기, 대량 살상 무기' 등에 대한 질문을 제한하고 있다. 구글 검색을 통해 드러난 대화에 따르면 그록은 펜타닐 제조법, 폭탄 제작법, 심지어 일론 머스크 암살 계획 등까지 사용자들에게 제공한 것으로 나타났다.
사용자들의 위험한 시도를 원천적으로 차단하지 못한 셈이다. 그록의 대화가 언제부터 포털에 노출되기 시작했는지 불분명하다. xAI 측은 이번 사안에 대해 별다른 입장을 밝히지 않았다.
한편 최근 오픈AI의 챗GPT와의 대화 내용도 검색엔진에 노출된 바 있다. 오픈AI는 이를 놓고 '단기 테스트'였다고 설명했다.
AI포스트(AIPOST) 유진 기자 aipostkorea@naver.com