오픈AI가 챗GPT를 사용해 작성한 문서를 탐지할 수 있는 기술을 개발했으나 공개하지 않고 있는 것으로 드러났다. 이용자가 감소할 수 있다는 우려에 공개를 꺼리는 것이라는 분석이 나온다.
오픈AI가 챗GPT를 사용해 작성한 에세이나 논문 등을 탐지하는 방법을 1년 전 개발 완료했으나 공식 출시하지 않고 있다고 5일(현지시간) 월스트리트저널(WSJ)은 보도했다. AI가 쓴 글을 탐지하는 기술을 공개할지에 대해 내부적으로도 의견이 엇갈리고 있다고 전해졌다.
이 기술은 인간의 눈으로는 찾이 어려운 워터마크를 삽입하는 방식으로 작동한다. AI가 생성한 문장 속에 특정 표현이나 문구를 숨기는 것이다. 팀지 기술로 이러한 워터마크를 찾아 AI로 작성됐을 가능성을 점수화한다. 오픈AI가 개발한 기술의 경우 정확성이 99.9% 수준인 것으로 알려졌다.
이처럼 완성도 높은 기술을 개발하고도 공개하지 않은 이유는 뭘까. 이에 대해 WSJ은 오픈AI가 챗GPT 이용자들의 반발을 우려해 기술 공개를 미루고 있다고 꼬집었다. 실제 지난해 4월 오픈AI가 의뢰한 설문조사에 따르면 사용자 3분의 1 정도가 워터마크 기술이 도입되면 챗GPT를 사용하지 않겠다고 답하기도 했다.
결국 충성 사용자가 줄어들면 수익성이 저하되기 때문에 공개를 미루는 것이라는 분석이 나온다. 그럼에도 여전히 워터마킹이 효과적일 것이라고 생각하는 일부 직원들도 존재한다고 한다. 오픈AI 측은 “AI 생태계 전반에 끼칠 영향을 고려할 때 신중한 접근이 필수적이다”라고 해명했다.
탐지하는 기술을 공식 출시하지 않자 일선 학교들은 AI를 사용해 과제를 하는 학생들로 골머리를 앓고 있다. 이에 국내 특목고들은 AI 기업 무하유의 GPT킬러라는 기술을 도입했다. GPT킬러는 자기소개서 등 문서를 검토해 챗GPT가 작성했다고 의심되는 부분을 탐지하는 플랫폼이다.
비영리 단체인 민주주의 기술 센터 조사에 따르면 미국 중고등학교 교사 중 59%는 학생들이 챗GPT 등 AI 기술을 활용해 과제를 했다고 생각하는 것으로 나타났다. 매년 이러한 인식이 확산되고 있고, 실제 사용하는 학생들도 늘고 있다.
AI포스트(AIPOST) 유진 기자 aipostkorea@naver.com