美 AI 스타트업 라이터, 비용 낮춘 AI 모델 '팔미라 X5' 출시

샌프란시스코에 본사를 둔 인공지능(AI) 스타트업 라이터(Writer)가 새로운 최첨단 기반 인공지능(AI) 모델인 '팔미라 X5(Palmyra X5)'를 출시했다. 

라이터는 28일(현지시간) 적응형 추론 모델인 팔미라 X5를 아마존웹서비스(AWS)의 파운데이션 모델 서비스인 아마존 베드록을 통해 제공한다고 밝혔다. 팔미라 X5는 단 100만 달러(약 14억 4000만원)의 GPU 비용으로 학습돼 눈길을 끈다. 

수천만 달러 이상의 GPU 비용이 드는 기존 모델들의 개발비와 대비되는 대목이다. 팔미라 X5는 기업 내 차세대 에이전트 확장에 필요한 동적 추론 기능과 엔터프라이즈급 안정성을 제공한다는 설명이다. 

라이터는 업계 최초로 향후 출시될 모든 대규모언어모델(LLM)의 최소 컨텍스트 윈도우 크기를 100만 토큰으로 설정한다고 발표했다. 와심 알시크 라이터 최고기술책임자(CTO)는 "대규모 컨텍스트 윈도우와 높은 효율성은 수십 개의 외부 도구를 활용하고 기업 운영에 필요한 방대한 양의 컨텍스트 데이터를 통해 추론하는 에이전트를 지원하는 데 필수적이다"라고 밝혔다. 

이어 그는 "팔미라 X5는 라이터가 고객이 플랫폼 내에서 구축하는 에이전트 워크플로를 지원하는 모델에 있어 전환점을 제공한다"라고 덧붙였다. 이번 모델은 이전에 비용이나 시간 문제로 어려웠던 에이전트 행동을 가능하게 한다. 

100만 토큰으로 구성된 프롬프트를 약 22초 만에 처리할 수 있다. 팔미라 X5의 가격은 입력 토큰 백만 개당 0.60달러(약 860원), 출력 토큰 백만 개당 6달러(약 8640원)로 책정됐다. 팔미라 X5는 경쟁 모델과의 벤치마크 테스트에서 우수한 성능을 기록했다. 

팔미라 X5는 오픈AI의 MRCR 8-니들 테스트에서 19.1%의 정확도를 기록했는데, 이는 GPT-4.1은 20.25%, GPT-4o는 17.63%과 유사한 수준이다. 팔미라 X5가 모든 성능 부문에서 선두를 차지하지 못하지만, 훨씬 낮은 비용으로 플래그십에 가까운 성능을 제공한다는 점은 괄목할 만하다. 

이에 기업들은 다양한 데이터베이스와 시스템에서 실시간 시장 데이터를 수집해 상세 보고서를 작성하는 등 다단계 에이전트에서 탁월한 성능을 얻을 수 있다는 게 라이터 측의 설명이다. 또한 이 모델은 재무 보고, 법률 문서 분석, 의료 기록 합성, 고객 피드백 분석과 같은 방대한 양의 정보 처리에도 탁월하다고 한다. 

AWS의 베드록 부문 이사인 아툴 데오는 "라이터의 팔미라 모델 제품군을 제공하게 돼 기쁘다. 전 세계 기업들이 에이전트 혁신의 새로운 시대를 맞이할 수 있게 될 것"이라며 "개발자와 기업은 AWS의 보안, 확장성 및 성능을 활용해 AI 에이전트를 구축 및 확장하고 방대한 엔터프라이즈 데이터에 대한 추론 방식을 혁신할 수 있다"라고 말했다.