미스트랄, 엣지 디바이스용 AI 모델 제품군 '레스 미니스트록' 출시

프랑스 인공지능(AI) 스타트업 미스트랄(Mistral)이 엣지 디바이스(모바일, 노트북, 데스크탑) 환경에서 맞춰 설계된 생성형 AI 모델인 '미스트랄 3B'와 '미스트랄 8B'를 출시했다. 

미스트랄은 16일(현지시간) 공식 블로그를 통해 엣지 디바이스에서 실행되도록 설계된 최초의 생성형 AI 모델 제품군인 '레스 미니스트록'을 발표했다. 레스 미니스트록은 '미스트랄 3B'와 '미스트랄 8B'로 구성됐다. 

두 가지 모델 모두 12만 8000토큰의 컨텍스트 창을 갖췄다. 약 50페이지 분량의 책 내용을 처리할 수 있다. 미스트랄 측은 "레스 미니스트록은 온디바이스 환경 등에서 효율적이며, 대기 시간이 짧은 솔루션을 제공하도록 구축됐다"라고 소개했다. 

벤치마크에서 라마, 젬마 등 경쟁 모델의 성능을 앞섰다는 게 미스트랄의 설명이다. 미스트랄 3B와 미스트랄 8B는 현재 다운로드할 수 있으며, 연구 목적으로만 사용 가능하다. 

미스트랄 측은 "미스트랄은 최첨단 모델을 구현하기 위해 지속 노력 중"이라며 "미스트랄 7B가 출시된 지 불과 1년밖에 되지 않았지만, 오늘날 미스트랄의 가장 작은 모델인 '미스트랄 3B'는 이미 대부분의 벤치마크에서 그것을 능가한다"라고 밝혔다.