출력 토큰 16배 늘렸다…오픈AI, 'GPT-4o 롱 아웃풋' 모델 출시

막대한 인공지능(AI) 학습 비용으로 오픈AI가 자금난에 시달리고 있을 것이라는 추측이 무성하다. 오픈AI는 꾸준히 새로운 모델과 업데이트를 공개하며 건재함을 과시하고 있다. 

오픈AI는 29일(현지시간) 자사 뉴스룸을 통해 새로운 거대언어모델(LLM)인 'GPT-4o 롱 아웃풋(Long Output)'을 출시했다고 밝혔다. 'GPT-4o 롱 아웃풋'은 쿼리 당 최대 6만 4000개의 출력 토큰을 제공한다. 기존 GPT-4o의 4000토큰의 16배에 해당한다. 

기존 GPT-4o 모델의 출력 토큰을 대폭 확대한 것이다. 출력 토큰이 확대됨에 따라 사용자들은 약 200페이지 분량의 답변을 얻을 수 있게 됐다. 이번 오픈AI의 업데이트는 더욱 긴 출력 컨텍스트가 필요하다는 고객들의 요청에 따라 이뤄졌다. 

테스트는 몇 주 동안 지속될 것으로 예상된다. 이를 통해 오픈AI는 확장된 출력이 사용자 요구를 얼마나 효과적으로 충족하는 지에 대한 데이터를 수집할 것으로 예상된다. 입력 토큰은 12만 8000개로 유지된다. 알파 테스트 참여자는 'gpt-4o-64k-output-alpha' 모델을 활용해 GPT-4o 롱 아웃풋에 접근할 수 있다. 

한편 오픈AI가 최근 출시한 경량화 모델 'GPT-4o 미니'의 경우 최대 11만 2000개의 토큰 입력과 최대 1만 6000개 토큰 출력이 제공된다.