"AI 모델 API 판매 마진, 사실상 제로"…코히어 CEO, 천문학적 AI 투자비용 고충 토로

오픈AI, 앤트로픽 등 자체 인공지능(AI) 모델을 개발하는 스타트업들이 치열하게 가격 경쟁을 벌이는 가운데 AI 모델을 활용할 수 있는 API 접근 권한 판매 마진이 사실상 제로(0)에 가깝다는 주장이 나왔다. 컴퓨팅 자원에 천문학적인 비용을 투자해야 하기 때문이다. 

기업 전용 대형언어모델(LLM)을 개발한 캐나다 AI 스타트업 코히어(Cohere)의 에이단 고메즈(Aidan Gomez) 최고경영자(CEO)는 최근 한 팟캐스트에 출연해 API 접근 권한을 판매하는 사업이 빠르게 '제로마진' 사업이 되고 있다고 말했다. 수익보다 비용이 더 많이 든다는 설명이다. 

에이단 고메즈 CEO는 "API 엑세스를 판매만 한다면 당분간 정말 까다로운 게임이 될 것"이라고 덧붙였다. 현재 오픈AI, 앤트로픽, 구글, 코히어 등 AI 모델을 개발한 기업들 모두 개발자들에게 API를 제공하고 있다. 

AI 업계에서 덤핑(저렴한 가격으로 제품을 대량 공급하는 일)이 심해져 API 비즈니스가 마진이 전혀 없는 사업이 될 것이라고 에이단 고메즈 CEO는 밝혔다. 에이단 고메즈 CEO는 "그럼에도 사람들이 이 기술을 필요로 하고 매우 빠르게 성장하고 있기 때문에 여전히 큰 비즈니스가 될 것"이라면서도 "적어도 지금은 마진이 매우 빡빡하다"라고 덧붙였다.

실제 고성능 AI 모델을 개발하기 위해서 많은 기업들은 더 많은 컴퓨팅 자원을 추가하고 있는 추세다. 그럼에도 오픈AI와 구글의 경우 사용자를 유치하기 위해 API 판매 가격을 낮췄다. 구글과 같이 탄탄한 자금력을 가진 기업들은 손실을 보면서도 AI 모델 개발을 지속할 수 있다. 

그러나 대규모 투자를 유치하지 못한 스타트업들의 경우 수익을 내지 못하고 대기업에 인수되기도 한다. 고메즈 CEO는 "클라우드 제공업체의 자회사가 되면 정말 위험하다"라며 "벤처캐피털들은 좋은 수익만 원하지만 클라우드 제공업체는 그 이상을 원할 수 있다"고 지적했다.

한편 코히어는 경쟁사들과 달리 기업에 초점을 맞추고 있다. 문서 요약, 웹사이트 카피 작성 및 챗봇 구동과 같은 작업을 수행하는 AI 모델을 만든다. 고객과 협력해 자체 데이터를 기반으로 맞춤형 모델을 만드는 실무적 접근 방식을 코히어는 취하고 있다.