머스크 xAI 의식했나…저커버그 CEO "라마4 모델 훈련에 H100 10만개 이상 사용"

마크 저커버그 메타 최고경영자(CEO)가 내년 초 출시될 예정인 차기 인공지능(AI) 모델 '라마 4(Llama 4)' 모델 훈련에 10만개 이상의 엔비디아 H100 칩을 사용하고 있다고 밝혔다. 이는 경쟁사들보다 더 큰 규모라고 강조했다. 

저커버그는 3분기 실적 발표에서 "라마4가 개발 단계에 있으며, 경쟁사보다 더 큰 그래픽처리장치(GPU) 클러스터에서 훈련을 받고 있다"라고 밝혔다. 이어 "현재 10만 개의 H100보다 더 큰 클러스터에서 이 모델을 훈련하고 있다. 이는 다른 사람들이 수행하는 것보다 더 큰 규모"라고 덧붙였다.

여기서 저커버그가 언급한 '다른 사람'은 일론 머스크 테슬라 CEO를 염두에 두고 한 말로 보인다. 일론 머스크가 이끄는 xAI는 미국 테네시주 멤피스에 위치한 데이터센터에서 AI 모델 훈련을 진행 중이다. 이 데이터센터에는 엔비디아의 AI 칩 'H100' 10만개가 투입된 것으로 알려졌다.  

이른바 '콜로서스'라고 불리는 이 데이터센터를 놓고 일론 머스크 CEO는 "세계에서 가장 강력한 AI 훈련 클러스터"라고 소개한 바 있다. 메타가 구축한 데이터센터의 정확한 규모는 공개되지 않았다. 

이 가운데 머스크는 몇 달 내 클러스터 규모를 두 배로 늘릴 것이라고 발표한 바 있다. 한편 저커버그는 라마4 모델에 대해 새로운 양식, 기능, 강력한 추론 성능을 갖출 것이며, 기존 모델보다 훨씬 더 빠른 성능을 자랑할 것이라고 말했다.