모바일에서도 고성능 AI 쓴다…구글, AI 모델 '젬마2 2B' 출시

구글이 모바일이나 노트북에서도 높은 성능을 낼 수 있는 새로운 인공지능(AI) 모델인 '젬마2 2B(Gemma2 2B)'를 출시했다. 

구글은 31일(현지시간) 자사 뉴스룸을 통해 다양한 기기에서 작동할 수 있는 작고 가벼운 모델인 '젬마2 2B'를 공개했다. 이번 버전은 20억개(2B)의 매개변수를 사용해 270억개(27B), 90억개(9B)를 사용한 기존 젬마2 모델보다 낮은 사양에서도 활용 가능하다. 

매개변수는 줄었지만, 성능은 낮아지지 않았다는 것이 구글의 설명이다. 동급 대비 최고의 성능을 제공하며, 다른 개방형 모델보다 우수한 성능을 가졌다고 한다. 인간 선호도로 순위를 매기는 오픈소스 챗봇 아레나(LMSYS)에 따르면 젬마2 2B는 1126점을 기록했다. 

미스트랄의 8x7b 인스트럭트 v0.1, 오픈AI의 GPT 3.5, 라마2를 넘어섰다는 평가를 받았다. 잼마2 2B는 AI 경량화 기법 중 하나인 지식 증류를 적용해 학습돼 성능 향상을 달성했다고 구글 측은 밝혔다. 구글은 젬마2 2B와 함께 AI 도구인 '젬마 스코프'와 '쉴드젬마'도 공개했다. 

쉴드젬마는 AI 모델 입력과 출력에서 유해한 콘텐츠를 탐지하고 완화하도록 설계됐다. 젬마 스코프는 희소 자동 인코더(SAE)를 사용해 모델 내의 특정 지점을 확대하고, 내부 작동을 더 해석하기 쉽게 만드는 도구다. 

한편 구글은 지난 6월 동급 최고 크기인 270억개 매개변수를 사용한 젬마2를 공개한 바 있다. 젬마2는 구글 클라우드 TPU, 엔비디아 A100, 엔비디아 H100 등에서도 효율적으로 추론할 수 있도록 설계됐다.