[초점] "제2의 엔비디아는 여기서?" AI 전력 문제 해결할 '추론 칩' 뜬다

인공지능(AI)이 불러일으킨 전력 소비가 상상을 초월할 만큼 늘어나며 업계의 최대 화두로 떠오른 가운데, 엔비디아의 아성에 도전하는 새로운 맞춤형 반도체들이 해법으로 떠오르고 있다고 월스트리트저널이 지난 25일(현지시각) 보도했다. 기술 대기업과 스타트업들은 "더 적은 에너지로 더 빠른 AI"를 목표로, 기존과 전혀 다른 방식의 칩 설계 경쟁을 벌이고 있는 것이다.

클라우드플레어의 앤드루 위 하드웨어 책임자는 미래 AI 슈퍼컴퓨터의 예상 전력 수요를 두고 "도저히 이해할 수가 없다"고 토로했다. 그는 30년간 실리콘밸리에서 데이터 센터와 하드웨어 전문가로 일했다. 세계경제포럼(WEF)은 AI에 필요한 에너지가 2030년까지 해마다 50%씩 증가할 것으로 추산했으며, 그는 "이러한 증가세가 '지속 불가능'하다"고 단언하며 기술과 정책을 아우르는 해결책이 시급하다고 경고했다.

이러한 위기감의 이면에는 막대한 비용 문제가 자리 잡고 있다. 업계가 '엔비디아 세금'이라고 부르는, 약 60%에 이르는 엔비디아의 총이익률을 지불해야 하는 비용 문제 때문만은 아니다. 가파른 전력비 상승, 데이터센터 기반 시설의 물리적 한계, 환경의 지속 가능성을 향한 심각한 우려까지 나오고 있다. 구글, 아마존, 마이크로소프트 같은 거대 기업은 물론 최소 12곳 이상의 스타트업들이 천문학적인 자금을 쏟아부으며 자체 칩 개발에 나서는 까닭이다. 목표는 단 하나, AI 연산의 핵심인 '추론' 과정의 효율을 높이는 것이다.

AI 개발은 크게 두 단계로 나뉜다. 방대한 데이터를 학습시키는 '훈련'과, 이를 바탕으로 사용자의 질문에 답을 내놓는 '추론'이다. 현재 훈련 시장은 엔비디아의 그래픽처리장치(GPU)가 장악하고 있지만, 추론은 다르다. 원래 그래픽용이었던 GPU가 AI에 쓰이면서 완벽한 효율을 내지 못한다는 지적이 꾸준히 나왔다. 이에 업계는 추론 작업에만 힘을 모은(칩에 메모리 내장, 회로 단순화 등) 완전히 새로운 방식의 칩에서 돌파구를 찾고 있다. 구글의 '아이언우드(Ironwood)'처럼 기술 대기업들도 자체 AI 특화 칩의 개발과 적용을 확대하고 있다.

이전에 구글 AI 칩 개발을 이끌었던 그록(Groq)의 조너선 로스 최고경영자(CEO)는 "오늘날의 AI 모델을 실행하기 위한 근본적으로 다른 칩 설계가 가능하다고 믿었다"고 밝혔다. 그록은 메모리를 칩 외부에 두는 대신 내부에 직접 심는 독특한 설계를 통해 엔비디아 최고 칩보다 전력은 3분의 1에서 6분의 1만 쓰면서도 훨씬 빠른 속도를 구현했다고 주장한다. 이 주장에 대해 세미애널리시스의 조던 나노스 분석가는 신뢰할 만하다고 평가했다.

2023년 문을 연 스타트업 포지트론(Positron)의 접근법은 더욱 과감하다. 이 회사는 밸러 에퀴티 파트너스 등으로부터 5160만 달러(약 714억 원)의 신규 투자를 유치(총 투자액 7500만 달러)하며, 기능 범위를 의도적으로 좁혀 단순하게 만든 칩을 개발했다. 특정 작업에 모든 성능을 집중해 속도와 효율을 끌어올리는 전략이다. 포지트론의 미테시 아그라왈 CEO는 "엔비디아의 차세대 시스템 '베라 루빈'과 비교해 달러당 성능은 2~3배, 투입 전력 단위당 성능은 3~6배 더 뛰어날 것"이라고 자신했다.

클라우드플레어는 포지트론의 칩을 장기적으로 시험하고 있다. 클라우드플레어의 앤드루 위 책임자는 "초기 시험 결과가 매우 고무적이었다"며 "광고한 성능 지표를 실제로 달성한다면, 수도꼭지를 열어 전 세계 데이터 센터에 대규모로 배치할 것"이라고 덧붙였다. 그는 이러한 경쟁이 AI 하드웨어의 가격을 낮추고, 나아가 앞으로 AI 전력 수요 곡선을 꺾을 수 있다고 내다봤다.

물론 업계 1위 엔비디아도 손을 놓고 있는 것은 아니다. 엔비디아의 디온 해리스 수석 디렉터는 추론의 중요성과 에너지 문제를 매우 잘 알고 있다며, 최신 '블랙웰' 시스템이 이전 세대보다 와트당 추론 효율을 25배에서 30배까지 높였다고 강조했다. 그는 이어 "고객들은 특정 틈새시장에 국한된 성능보다 미래 변화에 대응할 수 있는 확장성과 유연성을 중시한다"며 경쟁사들의 주장을 일축했다.


하지만 이러한 칩 단위의 효율성 경쟁에도 AI의 전력 소비량 자체는 계속해서 우상향 곡선을 그릴 것으로 보인다. 구글 클라우드의 마크 로마이어 부사장은 "소비자와 기업이 더 까다로운 AI 모델을 채택하면서 AI 수요 성장의 끝이 보이지 않는다"고 말했다. 실제로 구글을 비롯한 기술 대기업들의 고민은 칩을 넘어 에너지원 자체로 향하고 있다. AI 데이터 센터의 막대한 전력을 감당하기 위해 원자력이나 핵융합 같은 새로운 에너지 생산 방법까지 찾고 나선 것이다.

개별 칩의 성능 향상이 기업의 비용 절감에 기여하더라도, 업계 전체의 에너지 소비 증가를 막기에는 역부족이라는 목소리가 높다. AI 연구 기업 앤스로픽은 최근 보고서에서 앞으로 AI 발전의 진짜 병목은 반도체나 데이터 센터가 아닌 '에너지 생산' 자체가 될 수 있다고 짚었다. AI 시대의 문을 활짝 열기 위해서는 '칩 설계 혁신'과 '청정에너지 보급'이라는 두 바퀴가 함께 굴러가야 하는 과제를 안게 된 셈이다.


박정한 글로벌이코노믹 기자 park@g-enews.com