구글 TPU, 정말 엔비디아 아성 위협할까

구글이 갑작스레 인공지능(AI) 조류의 중심에 섰다.

구글이 모든 공신력 있는 시험에서 가장 탁월한 AI 모델로 평가 받은 제미나이3를 들고 나온 것이 계기다.

구글은 제미나이3를 자체 설계한 AI 반도체인 TPU(텐서 처리 장치)로 훈련시켰다.

TPU는 메타플랫폼스가 2027년 가동에 들어갈 데이터센터에 엔비디아 반도체 대신 투입하는 것을 검토하고 있다는 보도까지 겹치며 최근 AI 트레이드의 핵심으로 부상했다.

제미나이3와 TPU는 구글 모기업 알파벳 주가를 끌어올린 반면 엔비디아 주가는 끌어내렸다.

구글이 제마나이3를 공개한 18일 이후 알파벳 주가는 12% 상승한 반면 엔비디아 주가는 3.4% 하락했다.

구글을 도와 TPU 설계와 제작을 담당하는 브로드컴도 상승세다.

28일(현지시각) 배런스에 따르면 TPU는 구글이 2010년대 자체 AI 반도체 설계에 열을 올리면서 탄생했다. 엔비디아 반도체가 비싼 데다 공급 부족으로 품귀 현상을 빚자 구글은 값싼 자체 AI 반도체 조달 필요성을 절감했다. TPU가 세상에 모습을 드러낸 때는 2015년이다.
구글 외부에서는 이 반도체에 대해 아무 것도 모르고 있을 때 구글은 지도, 사진, 번역 등 자사 소프트웨어 구동에 TPU를 활용하기 시작했다.

이번에 제미나이3에 들어간 TPU는7세대 TPU다.


구글은 TPU를 주로 내부에서 활용했다.

그러나 엔비디아 반도체 품귀와 지나치게 비싼 가격에 지친 외부 업체들 사이에 입소문이 나면서 TPU의 바깥 나들이가 시작됐다.

지난해 7월 애플이 자사의 주요 AI 모델 훈련에 구글 TPU를 사용하고 있다는 것이 확인됐다.

오픈AI 출신들이 창업한 AI 스타트업 앤트로픽도 구글 TPU를 사용하고 있다.

TPU를 사용하려는 곳은 늘어날 전망이다.

TPU로 훈련하고 구동하는 제미나이3가 최고 성능을 구현하면서 TPU가 엔비디아 AI 반도체의 대안으로 부상하고 있다.

구글이 2010년대 TPU 개발에 나선 배경이었던 엔비디아 GPU의 공급 부족, 비싼 가격은 여전히 지속되고 있기 때문이다.

특히 AI 업체들은 반도체 공급을 엔비디아 한 곳에만 의존하는 것은 위험하다고 판단하면서 공급망을 다변화하려 노력하고 있기 때문에 TPU 수요는 계속 늘어날 전망이다.


구글 TPU와 엔비디아의 GPU(그래픽처리 장치)는 설계부터 활용에 이르기까지 차이가 많다.

TPU는 처음부터 딥러닝에 필요한 행렬연산이라는 단 하나의 작업을 수행하기 위해 만들어졌다. 이 작업 효율성이 매우 높아 특정 AI 작업에서는 TPU가 엔비디아 GPU보다 비용 대비 뛰어난 효율성을 갖고 있다.

TPU는 행렬연산이라는 특정 목적에 ‘몰빵’한 일종의 고속열차라고 할 수 있다.

반면 엔비디아 GPU는 다양한 작업을 병렬연산으로 처리하는 데 매우 뛰어나기 때문에 AI 전반의 계산에 유용하다. 한 작업에만 특화돼 있는 것이 아니어서 한 작업이 끝나면 곧바로 다른 작업에 투입할 수 있다. 다목적 열차인 셈이다.


TPU는 하드웨어만 한계가 있는 것이 아니다. 소프트웨어도 문제다.

엔비디아는 자사 GPU 구동을 위한 소프트웨어인 CUDA(쿠다)를 통해 AI 반도체 시장을 지배하고 있다는 평가를 받는다.

엔비디아가 AI 반도체 시장 80% 이상을 장악할 수 있었던 주된 배경 가운데 하나로 이 CUDA가 꼽힌다.

2004년 구축된 CUDA 생태계는 대부분 AI 연구원들이 능숙하게 사용하는 표준이 됐기 때문에 구글 TPU가 이 생태계를 뚫고 들어가는 데 한계가 있다.

게다가 구글 TPU 소프트웨어는 CUDA에 비해 성숙도가 낮아 단순히 익숙함만의 문제는 아니라는 지적이 나온다.

엔비디아의 AI 반도체 시장 독주가 당분간 지속될 수밖에 없다는 뜻이다.

다만 구글이 계속해서 소프트웨어를 개량하고 AI 업체들의 공급망 다변화가 지속될 것이어서 엔비디아의 독주가 영원할 수는 없을 것으로 보인다.


김미혜 글로벌이코노믹 해외통신원 LONGVIEW@g-enews.com


[알림] 본 기사는 투자판단의 참고용이며, 이를 근거로 한 투자손실에 대한 책임은 없습니다.