구글이 단일 클라우드, 스마트폰에서도 실행 가능한 초소형 인공지능(AI) 모델 '젬마 3 270M'을 공개했다. 거대 AI 모델을 개발하는 경쟁 기업들과 달리 초경량 모델을 선보이며 차별화된 움직임을 보이고 있다.
구글은 14일(현지시간) 젬마 3 초경량 AI 모델을 공개했다. 단 2억 7000만 개의 매개변수를 보유한 모델로, 많은 프런티어 거대언어모델(LLM)의 매개변수보다 훨씬 작은 수준이다.
파라미터는 AI 모델이 입력 데이터를 처리하는 핵심 변수로, 일반적으로 많을수록 더 복잡한 패턴을 학습할 수 있으며 더욱 많은 정보를 처리할 수 있다. 많은 기업들이 거대 모델을 개발하는 것과 달리 구글은 스마트폰이나 웹 브라우저에서 실행할 수 있도록 설계한 '젬마 3 270M'을 선보였다.
구글 연구진이 픽셀 9 프로에서 '젬마 3 270M'을 테스트한 결과 초경량 모델임에도 불구하고 여전히 복잡한 도메인별 작업을 처리할 수 있으며 단 몇 분 만에 기업이나 인디 개발자의 요구 사항에 맞게 세부 조정할 수 있었다. 배터리 소모율도 최소화됐다.
특히 명령을 얼마나 잘 이해하고 따르는지 평가하는 벤치마크 테스트인 ‘IFEval’에서 젬마 3 270M은 51.2%의 점수를 기록했다. 다른 경량 모델보다 높은 수준이다. 특히 개인정보 보호와 오프라인 기능이 중요한 경우 젬마 3 270M이 온디바이스 AI에 적합한 실용적인 선택이 될 것이라는 게 구글 측의 설명이다.
젬마 3 270M은 '오픈 모델'로 공개됐다. 개발자들은 모델을 다운로드해 개별 작업에 맞춰 수정 및 배포할 수 있다. 다만 개발자는 유해한 콘텐츠를 생성하거나 개인정보 보호 규칙을 위반해서는 안 된다. 유료 라이선스 없이도 광범위한 상업적 사용이 가능하다.
구글의 '젬마 3 270M'은 허깅페이스, 캐글 등에서 사전 훈련 및 인스트럭션 튜닝 버전으로 제공된다. 구글의 버텍스 AI에서도 테스트할 수 있다.
AI포스트(AIPOST) 진광성 기자 aipostkorea@naver.com