챗GPT 개발사 오픈AI의 경쟁자인 앤스로픽(Anthropic)이 11월 미국 대선을 앞두고 프롬프트 쉴드(Prompt Shield)라는 새로운 기술을 테스트 중인 것으로 알려졌다.
16일(현지시간) 리드라이트(ReadWrite) 등 외신 보도에 따르면 앤스로픽은 2024년 미국 대선을 앞두고 새로운 예방 조치를 발표했다. 앤스로픽의 인공지능 챗봇(AI) 클로드(Claude) 이용자들이 묻는 정치적 질문에 대해 대응하는 기술이다.
클로드에 탑재될 프롬프트 쉴드는 미국 기반 사용자가 선거 관련 정보를 요청하면 별도의 팝업을 제공한다. 민감한 질문에 편향된 대답을 할 우려를 원천 차단한다는 의미다. 선거 관련 공무원과 유권자들에게 정확한 투표 정보를 제공하는 Democracy Works의 '터보보트(TurboVote)'로 리디렉션한다.
앤스로픽은 정치를 포함한 여러 주제의 정보를 실시간으로 학습하지 않기 때문에 다른 챗봇들과 비교해 최신 정보를 묻는 질문에 환각 현상이 발생할 우려가 높았다. 이를 보완하기 위해 앤스로픽 측은 몇 주 내로 선거 관련 신속한 보호막을 탑재하고, 제한 사항 등을 모니터링한다고 밝혔다.
더불어 선거 후보자가 정치 캠페인에 클로드를 사용하는 것을 허용하지 않을 것이라고도 했다. 한편 앤스로픽과 오픈AI 모두 사용자가 정치적 캠페인 목적으로 AI 챗봇 도구를 활용하는 것을 금지하겠다고 약속하기도 했다.
AI포스트(AIPOST) 유진 기자 aipostkorea@naver.com