성능 높이고, 비용 줄였다…메타, AI 언어모델 '라마 3.3 7B' 출시

메타가 최근 오픈소스 인공지능(AI) 언어모델인 '라마 3.3 70B'를 출시했다. 향상된 성능의 모델을 더욱 저렴하게 활용할 수 있다는 게 특징이다. 

아메드 알-달 메타 생성 AI 부사장은 자신의 엑스(X)를 통해 "라마 3.3은 성능이 개선됐으며 훨씬 저렴한 비용으로 비용 가능하다"라며 "오픈소스 커뮤니티에서 더욱 쉽게 접근할 수 있는 새로운 모델"이라고 소개했다. 

라마 3.3 70B는 지난 4월 출시한 '라마 3'의 하위 버전이다. 700억개의 매개변수(파라미터)를 보유한 중형 모델이다. 대형 모델과 동일한 수준의 성능을 제공하지만, 추론에 필요한 GPU 용량 등 비용과 연산 컴퓨팅 자원 등이 훨씬 적다. 

라마 3.3을 제품이나 서비스에 통합하는 개발자들은 적절한 출처를 포함해야 하며 유해한 콘텐츠 생성, 법률 위반 또는 사이버 공격 활성화와 같은 활동을 금지하는 사용 정책을 준수해야 한다. 

월간 활성 사용자가 7억명이 넘는 조직에서는 메타를 통해 상업용 라이선스를 받아야 한다. 라마 3.3 모델은 다국어 대화, 추론, 고급 자연어 처리와 같은 작업에서 경쟁 모델보다 우수한 성능을 보였다고 한다. 

이용 가격은 입력 토큰 100만개당 0.1달러, 출력 토큰 100개당 0.6달러이다. 다른 모델 가격의 8분의 1 이하 수준이다. 한편 마크 저커버그 메타 최고경영자(CEO)는 자신의 SNS를 통해 내년 중 '라마4'를 출시할 것이라는 소식을 알렸다.