'GPU 10만개' 세계 최대 AI 데이터센터 내부 모습은?…"머스크 꿈의 터전"

일론 머스크 테슬라 최고경영자(CEO)의 야망을 실현시켜줄 세계 최대 데이터센터가 지난 7월부터 가동 중이다. 미국 테네시주 멤피스에 위치한 이 데이터센터는 엔비디아의 인공지능(AI) 칩인 'H100' 10만개가 투입됐다. 

이른바 '콜로서스'라고 불리는 이 데이터센터를 놓고 일론 머스크 CEO는 "세계에서 가장 강력한 AI 훈련 클러스터"라고 소개한 바 있다. 향후 AI 경쟁의 향배를 좌우할 데이터센터 '콜로서스'의 내부는 어떤 모습일까. 

75만명의 구독자를 보유한 유튜버 서버더홈(ServeTheHome)은 28일(현지시간) xAI의 승인을 받아 촬영한 데이터센터 내부 모습을 공개했다. 공개된 영상을 통해 xAI의 데이터센터에서 GPU 액체 냉각 시스템을 사용하고 있는 것을 알 수 있었다.  

각 랙은 8개의 H100 GPU가 장착된 8개의 서버로 구성된다. 효율성과 고성능을 위해 설계된 미니 클러스터는 512개의 GPU 그룹으로 채워졌다. 이러한 GPU 그룹이 약 200개가 배치되면서, 데이터센터 내 총 10만개 이상의 GPU가 가동 중이다. 

슈퍼마이크로의 액체 냉각 시스템은 xAI 데이터센터의 필수적인 부분으로 자리잡았다. 높은 열과 전력 수요를 효과적으로 관리하도록 특별히 제작된 것으로 알려졌다. 머스크는 전례 없는 규모로 데이터센터를 구축했고, 여기에다 컴퓨팅 인프라를 더 추가할 것으로 알려졌다.