제미나이에 1000명이 10개씩 질문하면?…TV 22시간 켤 수 있는 전기 먹는다
구글의 인공지능(AI) 모델인 제미나이에게 하나의 질문을 할 때마다 얼마만큼의 전력이 소비될까. 프롬프트 하나당 TV를 9초 미만의 시간 동안 켤 수 있는 양이 소비된다. 1000명이 각각 질문을 10개씩 한다고 가정해보자.
프롬프트 하나당 TV를 8초간 켤 수 있다고 감안하면, TV 한 대를 약 22시간 13분 이상 켤 수 있는 전력이 소비되는 셈이다. AI 챗봇이 탑재된 제미나이 앱의 일일 활성 사용자 수는 최근 3500만명을 돌파했다. 어림잡아 계산해도 하루에만 그야말로 어마어마한 전력을 사용하고 있다는 이야기다.
구글은 최근 제미나이 앱이 각 쿼리에 사용하는 에너지를 자세히 설명하는 기술 보고서를 발표했다. AI 모델 사용자가 기하급수적으로 증가함에 따라 에너지 효율성에 대해 제대로 파악할 필요가 있다고 판단한 것이다. 자료에 따르면 텍스트 프롬프트 하나당 0.24와트시(Wh)의 에너지가 소비된다. 이는 9초 미만의 시간 동안 TV를 시청하는 것과 같다고 구글 측은 밝혔다.
구글이 공개한 수치는 그동안 발표된 AI 모델들의 전력 소비량보다 낮은 수준이다. 허깅페이스의 연구에 따르면 챗GPT에 짧은 질문을 하나했을 때 0.3Wh의 전력이 소모된다. AI로 이미지 한 장을 생성하면 2.907Wh의 전력이 소모된다. 텍스트 질문보다 이미지 생성 요청이 약 열 배에 달하는 전력을 쓰는 셈이다.
질문을 하나 할 때 얼마나 물이 많이 필요한지 계량적으로 따진 통계도 발표됐다. 구글은 제미나이에 질문을 한 번 하는 데 물 0.26ml가 소요된다고 했다. 샘 알트만 오픈AI 최고경영자(CEO)는 챗GPT에 질의하는 쿼리 1개당 약 0.000085갤런(0.000322리더)의 냉각수가 사용된다고 밝힌 바 있다. 이는 티스푼 1/15 정도의 소량이다.
구글 측은 에너지의 상당 부분은 AI 전용 하드웨어 지원에 필요한 장비에서 사용된다고 전했다. 구글 측은 와트당 성능을 극대화하기 위해 AI 모델과 TPU를 공동 설계해 소프트웨어가 하드웨어의 장점을 최대한 활용할 수 있도록 노력 중이라고 말했다.
구글 측은 "제미나이의 효율성 향상은 수년간의 노력의 결과이지만, 이는 시작에 불과하다. AI 수요가 증가하고 있음을 인지하고, 구글은 프롬프트당 필요한 전력 공급 비용과 용수 절감에 막대한 투자를 하고 있다"라며 "이러한 연구 결과와 방법론을 공유함으로써 업계 전반의 AI 효율 향상을 촉진하고자 한다. 이는 책임감 있는 AI 개발에 필수적"이라고 강조했다.
한편 미국에선 AI 전력난을 우려해 원전·태양광 발전소를 늘리려는 움직임이 포착된다. 구글은 미국의 신생 원전 개발자 엘리멘틀 파워(Elemental Power)와 계약을 체결하고 차세대 원자력 발전소 3곳을 건설하기로 했다. 더불어 구글은 카이로스 파워와도 계약을 체결하고, 전력 확보에 총력을 기울이고 있다.
구글은 올해 데이터센터 용량 구축에 750억 달러 이상을 투자할 계획인 것으로 전해졌다. 페이스북 모회사 메타도 전력 수요를 충당하기 위해 원자력 에너지 개발을 추진 중이다. 메타는 "원자력 에너지가 데이터센터와 지역 사회에 전력을 공급하는 데 도움이 될 수 있다고 믿는다"라고 밝힌 바 있다.
이러한 '원전 붐' 때문에 미국 역사상 최악의 원전 사고가 발생한 스리마일섬 원전도 재가동 절차에 돌입했다. MS가 20년간 전력을 해당 원전에서 구매하면서부터다. 기업들은 전력 확보가 워낙 중요해지고 있어, 태양광 발전소에도 관심을 보이고 있다.
메타(Meta)는 최근 미국 사우스캐롤라이나에 100MW 태양광 발전소를 짓기로 했다. 구글도 최근 신재생 에너지 투자에 적극 나서고 있다. 구글은 올해 1월 리워드 리뉴어블 에너지(LRE)로부터 오클라호마에 위치한 700MW 규모의 태양광 프로젝트를 매입하는 계약을 체결한 바 있다.