SNS 사진 보고 AI가 위치 찾는다…이미지 추론 가능한 오픈AI 'o3', 스토킹 악용 우려

챗GPT 개발사 오픈AI가 최근 이미지 추론 기능이 포함된 새로운 인공지능(AI) 모델을 내놓은 가운데 이미지 분석 기능에 따른 스토킹 등 범죄 악용 가능성이 제기되고 있다. 

오픈AI는 16일(현지시간) 새로운 고급 추론 모델 'o3'와 소형 모델인 ‘o4 미니’를 출시했다. 새롭게 출시한 모델은 이용자 질문에 추론을 하는 것을 넘어 이미지를 보고 생각하는 추론 기능이 포함됐다. 오픈AI는 'o3'가 이미지로 사고할 수 있는 최초의 모델이라고 밝혔다. 

특히 단순히 이미지를 보는 것이 아니라 시각 정보를 추론 과정에 직접 통합할 수 있다고 오픈AI 측은 설명했다. 더불어 AI 모델은 이용자가 올린 흐릿하고, 품질이 낮은 이미지도 이해할 수 있다고 한다. 또 이미지를 확대하거나 회전시키며 작업을 수행할 수 있다.

이미지 추론 기능이 사진의 위치를 찾아낼 수 있다는 사실이 알려지며 스토킹 범죄 등에 악용될 수 있다는 문제가 제기되고 있다. 17일(현지시간) 테크크런치 보도에 따르면 온라인상에서 챗GPT를 사용해 사진의 위치를 찾았다는 내용의 글이 확산되고 있다. 

o3가 미묘한 시각적 단서만으로 도시, 랜드마크, 식당, 술집까지 유추하는 데 매우 뛰어나다는 것이다. 한 엑스 사용자는 챗GPT에 레스토랑 메뉴와 동네 사진, 외관, 셀카 사진 등을 제공하고, "지오게서(GeoGuessr)를 하고 있다고 상상하라"라는 프롬프트를 제공했다고 한다. 

지오게서는 구글 스트리트뷰를 기반으로 위치를 추측하는 게임이다. 더 질 높은 답변을 받기 위해 AI에게 상황을 부여한 것이다. 사진 몇 장만으로 위치를 찾을 수 있는 만큼 얼마든지 스토킹 범죄 수단으로 악용할 가능성이 높다는 우려가 커지는 상황이다. 

예를 들어 몇 장의 사진을 인스타그램에 올리면 누군가 해당 사진을 활용해 위치를 알아낼 수 있다는 것이다. 사진을 업로드하면서 위치를 일부러 올리기도 하지만, 그렇지 않은 경우도 많다. AI가 위치를 찾아낼 수 있게 되면 사용자의 의도와 무관하게 구체적인 위치가 드러나게 된다.  

물론 이미지 추론 기능이 포함된 'o3', 'o4 미니'가 출시 이전에도 가능했던 일이다. 'GPT-4o' 모델도 웹 검색 기능을 통해 위치를 찾을 수 있었지만, 'o3'와 비교하면 정답률이 떨어진다는 설명이다. 

타인의 사진을 기반으로 위치를 찾아내는 행위를 방지할 수 있는 안전 장치는 아직까지 마련되지 않은 것으로 보인다. 챗GPT를 개발한 오픈AI도 'o3', 'o4 미니'에 대한 안전보고서에 이같은 문제를 다루지 않고 있다. 

한편 챗GPT와 관련해 저작권법 위반, 창작 윤리 등까지 광범위한 논란이 지속되고 있다. 지브리풍 이미지가 세계적으로 유행하면서 지브리 스튜디오의 저작권을 침해하는 것이 아니냐는 논란이 확산되고 있다. 이와 관련 지브리스튜디오는 아직 공식 입장을 내놓지 않았다.