'전기 먹는 하마' 생성형 AI 학습·운영비 날로 상승
풍력·태양광 전력만으로 데이터 센터 운영 어려워
MS, 기존 원전 대신하는 소형원전서 전력 조달
폭발 사고 위험 낮음에도 우려는 아직도 존재해
개발부터 운영까지 천문학적인 비용이 투입되는 생성형 인공지능(AI) 기술을 개발하는 기업이 늘고 있다. AI 서비스 운영을 위한 전력 수요도 폭증하고 있어, 막대한 비용을 충당해야 하는 기업들의 고민이 깊어지고 있다. 이 가운데 마이크로소프트(MS)가 AI를 가동하기 위해 원자력발전소에서 전력을 조달하고 있다고 알려져 화제가 되고 있다.
13일(현지시간) 윈도우즈센트럴 등 외신 보도에 따르면 마이크로소프트가 AI 가동에 필요한 전력을 원전에서 조달하는 것으로 밝혀졌다. 더불어 소형원전(SMR)의 승인을 위해 AI를 이용하고 있다고 한다. MS의 소형원전은 기존 원전을 대신할 친환경 미래 에너지원으로 평가받고 있다.
AI 모델 학습하려면 국민 120여 명 1년 간 사용할 전력 필요
전기 생산 과정에서 온실가스를 배출하지 않고, 폭발 사고 위험도 낮기 때문이다. MS는 미국 내 최대 원전 소유주인 콘스텔레이션 에너지로부터 버지니아에 소재한 데이터 센터 가동을 위해 원자력 에너지를 구매하기로 했다. 이 같은 결정을 한 데에는 이유가 있다. AI 개발 및 운영을 위해 막대한 전력이 필요하기 때문이다.
MS의 AI 모델 운영비는 구체적으로 밝혀지지 않았으나, 이미 공개된 생성형 AI 모델들의 비용을 살펴보면 가늠해 볼 수 있다. 먼저 데이터 센터 내 서버들은 24시간 작동하는데 엄청난 양의 냉각수가 필요하다. 최근 미국 콜로라도대과 텍사스대 연구진의 발표에 따르면 GPT-3를 훈련시키는 데 70만 리터의 물이 사용됐고, 챗GPT에게 질문을 한번 하면 냉각수 500㎖가 필요하다.
소요되는 전력도 어마어마하다. 스탠퍼드대 연구진의 연구 결과에 따르면 GPT-3가 학습하는 데 1287㎿h(메가와트시)의 전력이 사용된다. 한국의 1인당 전력 소비량(1만1001kWh)의 117배에 달한다. 쉽게 말해 국민 120여 명이 1년 간 사용할 전력이 AI 모델 학습 과정에 쓰인 셈이다. 냉각수, 전력 등 엄청난 투자가 필요할 수밖에 없다.
업계에 따르면 챗GPT에 질문을 한번 할 때마다 약 10센트, 우리 돈 130원의 비용이 필요한 것으로 알려졌다. 샘 알트만 오픈AI CEO의 말처럼 '눈물 날 정도로 비싼' 수준이다. 오픈AI가 챗GPT를 하루 가동하는 데 필요한 하드웨어 비용은 70만 달러, 한화로 약 9억 2330만원에 달한다. 이전에 발표된 연구 결과인 점을 감안하면 진화된 MS의 현재 모델은 더 많은 비용이 필요할 것으로 예상된다.
친환경 재생에너지만 쓰고 싶어도…"데이터 센터 전기 사용량 감당 못해"
MS가 단순히 비용 때문에 원자력발전소에서 전력을 조달하는 것은 아닐 것이라는 분석이다. 친환경 재생에너지로 데이터 센터의 전력을 충당하기 어려운 환경 속에서 탄소 배출이 없는 소형원전(SMR)이 유일한 선택지가 아니었을까라는 관측이 나온다. 실제 버지니아주에서는 풍력과 태양광 발전만으로 MS의 데이터 센터를 가동하지 못하는 상황이다.
콘스텔레이션 에너지는 데이터 센터의 전력 수요는 전기차에 필요한 수요의 5∼6배가 될 것이라고 전망했다. MS가 원자력발전소에서 생산된 전기로 AI 프로젝트를 진행키로 하면서 소형원전에 대한 기업들의 인식이 달라지고 있다. 탄소가 없고, 다른 재생에너지와 달리 24시간 전기를 공급할 수 있다는 점이 매력적으로 다가올 것이다.
MS의 결정에 대해 우려의 목소리도 크다. SMR의 실용화가 아직 멀었고, 세계적인 탈원전 국정 기조와 대조적이라는 것. 실제 SMR의 경우 허가를 받고 건설하는 과정에서 엄청난 비용이 수반되고 시간도 오래 걸린다. 이 과정마저도 MS는 AI에 도움을 받고 있다고 전했다.
AI포스트(AIPOST) 유형동 수석기자 aipostkorea@naver.com