'H100 10만개' 세계 최강 AI 훈련센터 가동…머스크가 그리는 'AI 빅픽처'

일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 스타트업 xAI의 슈퍼컴퓨터 클러스터가 본격적인 가동에 들어갔다. 막강한 컴퓨팅 파워를 기반으로 올해 말 자체 거대언어모델(LLM) '그록'의 차기 버전이 개발될 예정이다. 

일론 머스크 xAI CEO는 자신의 엑스를 통해 "세계에서 가장 강력한 AI 교육 클러스터인 멤피스 슈퍼클러스터에서 (AI 모델) 훈련이 시작됐다"라고 밝혔다.  

일론 머스크의 거대한 야망이 멤피스 슈퍼클러스터는 미국 테네시주 남서쪽에 위치하고 있으며, 도시 역사상 신생 기업이 투자하는 프로젝트 중 가장 큰 규모로 알려졌다. 슈퍼 클러스터에는 엔비디아의 강력한 그래픽처리장치(GPU) 10만개가 탑재돼 있다.

일론 머스크도 이를 내세워 '세계 최강 훈련 클러스터'라고 강조했다. 머스크는 단일 RDMA(원격 직접 메모리 액세스) 패브릭에서 클러스터가 작동한다고 설명했다. xAI는 슈퍼 클러스터에서 자체 거대언어모델(LLM)인 '그록 3'를 훈련시킬 계획이다. 

머스크는 올해 말까지 훈련을 마칠 것이라고 밝혔다. 그러나 자율주행차, 로보택시, 화성 유인 탐사 등 프로젝트들이 당초 계획했던 일정에 완수되지 못한 것을 보면, 그록 3도 올해 안에 나오기 어려울 수도 있을 것이라는 분석도 나온다.