[실리콘 디코드] "엔비디아 횡포 못 참겠다"…구글·아마존 '반란의 칼' 뽑았다

"수요가 차트를 뚫고 나갈 정도(off the charts)입니다."

젠슨 황 엔비디아 최고경영자(CEO)의 자신감은 근거가 있다. 엔비디아의 최신 AI 가속기 '블랙웰(Blackwell)' 시스템은 현재 없어서 못 파는 귀하신 몸이다. 하지만 화려한 실적 잔치 뒤편, 실리콘밸리의 거인들은 조용히, 그러나 아주 빠르게 '엔비디아 없는 미래'를 준비하고 있다. 구글, 아마존, 메타, 마이크로소프트(MS), 오픈AI 등 내로라하는 빅테크 기업들이 자체 맞춤형 AI 반도체(ASIC·주문형 반도체) 개발에 사활을 걸었기 때문이다.

미국 경제방송 CNBC는 21일(현지시각) 엔비디아가 그래픽처리장치(GPU)로 천문학적인 수익을 올리고 있는 지금, 시장의 판도는 이미 범용 GPU에서 맞춤형 ASIC으로 이동하고 있다고 심층 보도했다. 퓨처럼 그룹(Futurum Group)의 대니얼 뉴먼 수석 분석가는 CNBC에 "향후 몇 년간 맞춤형 ASIC 시장이 GPU 시장보다 훨씬 더 빠르게 성장할 것"이라고 단언했다. 엔비디아의 독주 속에 싹트고 있는 빅테크의 반란, 그 속사정을 들여다본다.

현재 AI 반도체 시장을 이해하는 핵심 열쇠는 '범용성'과 '효율성'의 대결이다. 엔비디아의 GPU는 본래 게임용 그래픽 처리를 위해 탄생했다. 2012년, 현대 AI의 '빅뱅'으로 불리는 알렉스넷(AlexNet) 경진대회에서 연구자들은 CPU(중앙처리장치)가 아닌 GPU의 병렬 처리 능력이 AI 딥러닝에 탁월하다는 사실을 우연히 발견했다. 수천 개의 코어로 데이터를 동시에 처리하는 GPU는 이후 AI 학습과 추론의 표준이 되었다.

엔비디아는 이 흐름을 타고 세계에서 가장 비싼 기업 반열에 올랐다. 지난 1년간 출하된 블랙웰 GPU만 600만 개에 달한다. 엔비디아 본사에서는 72개의 블랙웰 GPU를 하나로 묶은 랙 스케일 서버 'GB200 NVL72'가 위용을 과시하고 있다. 엔비디아 측은 이 시스템 하나 가격이 약 300만 달러(약 44억 원)에 달하며, 매주 1000개씩 출하되고 있다고 밝혔다. 디온 해리스 엔비디아 AI 인프라 상무는 "8년 전 입사 당시만 해도 GPU 8개짜리 시스템조차 '과잉 스펙(overkill)'이라는 소리를 들었는데, 지금의 수요는 상상조차 못 했던 수준"이라고 회고했다.

하지만 문제는 비용과 효율이다. '반도체 전쟁(Chip War)'의 저자 크리스 밀러 교수는 현재 상황을 이렇게 비유한다. "GPU는 다양한 AI 작업을 모두 처리할 수 있는 '스위스 아미 나이프(맥가이버 칼)'와 같다. 반면 ASIC은 특정 작업에 딱 맞춰 설계된 단일 목적 도구다."

만능칼은 편리하지만, 특정 작업만 반복해야 할 때는 전용 도구보다 비싸고 비효율적이다. 엔비디아 GPU는 개당 가격이 최대 4만 달러(약 5800만 원)에 달하고 수급도 불안정하다. 반면 ASIC은 초기 설계비용이 수천만 달러가 들지만, 한번 만들어두면 양산 단가가 낮고 전력 효율이 월등하다. 빅테크들이 수조 원을 들여 자체 칩을 만드는 이유가 여기에 있다. 실리콘에 회로를 새겨버려(hard-wired) 유연성은 떨어지지만, 자신들의 AI 모델 돌리는 데는 엔비디아 칩보다 훨씬 싸고 빠르기 때문이다.


이 분야의 선구자는 단연 구글이다. 구글은 이미 2006년부터 자체 칩 개발을 고민했다. 2013년, AI 데이터센터 수요가 폭증할 것이라는 계산이 나오자 상황은 '긴급(urgent)'으로 격상됐다. 그 결과 2015년 첫 번째 '텐서 처리 장치(TPU)'가 탄생했다. 현재의 생성형 AI 붐을 일으킨 '트랜스포머' 아키텍처 역시 이 TPU를 기반으로 2017년에 개발됐다.
구글은 지난 11월, 10년의 노하우가 집약된 7세대 TPU '아이언우드(Ironwood)'를 공개했다. 앤스로픽은 자사의 거대언어모델(LLM) '클로드'를 100만 개의 TPU로 훈련하겠다고 선언했다. 크리스 밀러 교수는 "일각에서는 구글의 TPU가 기술적으로 엔비디아 GPU와 대등하거나 오히려 우월하다고 평가한다"며 "그동안 내부용으로만 쓰던 TPU를 구글이 향후 외부에 더 광범위하게 개방할 것이라는 관측이 지배적"이라고 분석했다.

아마존웹서비스(AWS)의 추격도 매섭다. 2015년 칩 스타트업 안나푸르나 랩스를 인수한 AWS는 2018년 추론용 '인퍼런시아', 2022년 학습용 '트레이니엄'을 잇달아 내놓았다. 오는 12월에는 트레이니엄 3세대 모델이 공개된다.

CNBC에 따르면 인디애나주에 위치한 아마존의 AI 데이터센터에서는 앤스로픽이 50만 개의 '트레이니엄2' 칩을 활용해 모델을 훈련 중이다. 론 디아만트 트레이니엄 수석 아키텍트는 "트레이니엄은 다른 하드웨어 공급업체(엔비디아를 지칭) 대비 가격 대비 성능(가성비)이 30~40% 뛰어나다"고 강조했다. 마이크로소프트 역시 자체 칩 '마이아 100'을 미 동부 데이터센터에 실전 배치했고, 오픈AI는 브로드컴과 손잡고 2026년부터 자체 ASIC을 생산할 계획이다.

이 과정에서 '숨은 승자'들도 있다. 자체 칩 설계 역량이 부족한 기업들을 돕는 브로드컴과 마벨 같은 디자인 하우스다. 밀러 교수는 "브로드컴은 구글 TPU와 메타의 칩 개발을 도우며 AI 붐의 최대 수혜자 중 하나가 됐다"고 지적했다.


전선은 거대한 데이터센터를 넘어 우리가 손에 쥐는 스마트폰과 노트북으로도 확대되고 있다. 이른바 '엣지(Edge) AI'다. 클라우드 서버까지 데이터를 보낼 필요 없이 기기 자체에서 AI를 구동하는 온디바이스(On-device) AI는 지연 시간을 없애고 개인정보를 보호하는 데 필수적이다.

이 시장에서는 퀄컴, 애플, 인텔, AMD 등이 신경망처리장치(NPU)를 앞세워 경쟁 중이다. 애플은 'NPU'라는 용어 대신 '뉴럴 엔진'을 맥북과 아이폰 칩에 내장했다. 팀 밀렛 애플 부사장은 지난 9월 인터뷰에서 "자체 칩을 통해 우리는 사용자 경험을 완벽하게 통제할 수 있다"고 자신했다.

삼성전자와 퀄컴도 스마트폰용 칩에 NPU 성능을 대폭 강화하고 있다. 사이프 칸 전 백악관 AI·반도체 정책 자문관은 "전화기에서 바로 AI를 구동하면 데이터센터와 통신할 필요가 없어 프라이버시가 보장된다"고 설명했다. 밀러 교수 역시 "지금은 돈이 데이터센터에 몰리지만, 시간이 지나면 휴대폰, 자동차, 웨어러블 등 엣지 디바이스로 투자의 흐름이 바뀔 것"이라고 전망했다.


흥미로운 점은 이 모든 경쟁—엔비디아의 GPU, 구글과 아마존의 ASIC, 애플의 칩—이 결국 단 한 곳의 병목지점을 통과해야 한다는 사실이다. 바로 대만의 파운드리(위탁생산) 업체 TSMC다. TSMC는 현재 미국 애리조나에 거대 공장을 짓고 있으며, 젠슨 황 CEO는 이곳에서 블랙웰 GPU가 "본격 생산(full production)" 중이라고 밝혔다. 애플 역시 애리조나 공장 물량을 확보한 상태다.

빅테크들의 거센 도전에도 불구하고 엔비디아의 왕좌는 당분간 공고할 것으로 보인다. 단순히 칩 성능 때문만이 아니다. 지난 10여 년간 전 세계 개발자들이 엔비디아의 소프트웨어 플랫폼 '쿠다(CUDA)'에 길들여졌기 때문이다. 대니얼 뉴먼은 "엔비디아의 지위는 하루아침에 만들어진 것이 아니다. 그들은 개발자 생태계라는 강력한 해자를 구축했다"고 평가했다.

하지만 흐름은 분명하다. 엔비디아라는 절대 권력에 의존하던 빅테크들이 각자의 생존을 위해 '기술 독립'을 선언했다. AI 반도체 시장은 이제 단순한 속도 경쟁을 넘어, 누가 더 효율적이고 경제적인 생태계를 구축하느냐의 '제2라운드'로 접어들었다.


박정한 글로벌이코노믹 기자 park@g-enews.com