엔비디아 이후 준비하는 빅테크… AI 연산 ‘다층화’ 시동

인공지능(AI) 에이전트 시대가 본격화하면서 엔비디아 중심의 그래픽처리장치(GPU) 독점 체제에 균열 조짐이 나타나고 있다. 글로벌 빅테크 기업들이 천문학적인 자금을 투입해 중앙처리장치(CPU) 기반 연산과 양자컴퓨터로 눈을 돌리며 연산 구조가 GPU 중심에서 다층 구조로 이동 중이다.

월스트리트저널(WSJ)과 로이터통신은 지난 27일과 28일(현지시각) 아마존웹서비스(AWS)의 60억 달러(약 8조 9700억 원) 규모 자체 CPU 계약과 IBM의 100억 달러(약 14조 9500억 원) 규모 양자컴퓨터 투자 계획을 잇달아 보도했다. 이는 고비용 GPU에만 의존하던 AI 연산 시장의 헤게모니가 보완재 확대를 통해 분화하는 거대한 전환점이다.



클라우드 기반 데이터 저장·분석 기업인 스노우플레이크가 아마존의 자체 설계 CPU '그래비톤'을 대규모로 도입한다. 월스트리트저널(WSJ)이 지난 27일 보도한 내용에 따르면, 스노우플레이크는 앞으로 5년간 AWS 인프라 내 그래비톤 CPU 이용을 위해 60억 달러를 지불하는 계약을 체결했다. 이 소식이 전해진 직후 뉴욕증시 시간외거래에서 스노우플레이크 주가는 35% 폭등했다. 이번 계약은 빅테크가 AI 학습(Training)이 아닌 데이터 처리 비용 절감과 워크로드 최적화에 집중하기 시작했음을 보여주는 방증이다.

아마존이 지난 2018년 처음 공개한 그래비톤은 서버의 핵심 두뇌 역할을 하는 CPU다. 최근 사람처럼 자율적인 업무를 수행하는 'AI 에이전트'가 확산하면서 CPU 수요가 급증했다. 다만 그래비톤의 확대는 GPU 대체라기보다 GPU 의존도를 낮추는 '워크로드 분산 전략'에 가깝다.

AI 에이전트 확산은 GPU 수요를 대체하기보다 CPU·GPU·네트워크를 포함한 총연산량 자체를 폭증시키는 구조이기 때문이다. 시스템 레벨에서 CPU는 작업 스케줄링, API 호출, 데이터 처리를 맡고 GPU는 모델 추론을 담당하는 형태로 연산 구조가 고도화하고 있다.

업계에서는 AI가 추론 및 에이전트 구동 단계로 넘어가면서 고가 GPU 의존도를 낮추기 위해 고성능 CPU를 병행 활용하는 설계가 빅테크의 생존 전략이 됐다고 진단한다. 이에 발맞춰 인텔, AMD, 암(Arm) 등 전통 CPU 기업들의 주가도 동반 상승세를 나타내고 있다.


양자컴퓨터 분야에서도 가속 컴퓨팅을 보완하기 위한 대규모 자본 투입이 시작됐다. 로이터통신은 지난 28일 IBM이 상용 양자컴퓨터 개발을 위해 5년간 100억 달러 이상을 투자한다고 보도했다. IBM의 목표는 오는 2029년까지 복잡한 계산을 오류 없이 안정적으로 수행하는 최초의 대형 양자컴퓨터를 구축하는 것이다. IBM은 특정 화학·물리 계산 영역에서 기존 GPU 대비 압도적인 성능 구현을 목표로 설정했다. 다만 오류율 문제로 인해 범용 상용화까지는 여전히 상당한 기술적 불확실성이 남아 있다.
이번 투자는 미국 행정부의 전폭적인 공급망 안보 지원과 맞물려 있다. 트럼프 행정부는 지난 5월 중순 9개 양자컴퓨터 기업에 20억 달러(약 2조 9900억 원)의 지분을 투자하기로 결정했으며, 이 중 절반인 10억 달러(약 1조 4900억 원)가 IBM의 신설 법인 '앤더론(Anderon)'에 배정됐다. 앤더론은 미국 내 최초의 양자 칩 전용 제조 시설이 될 예정이다.

기술적 장벽이 존재하지만, IBM은 2026년 5월 현재 이미 90개 이상의 양자 시스템을 현장에 배치해 포춘 500대 기업 및 연구기관 325곳 이상과 생태계를 형성했다. 중국의 '양자 굴기'에 맞서 미국 정부가 직접 보조금을 살포하며 차세대 반도체 주도권을 확보하겠다는 의도로 풀이된다.


시장의 시선은 엔비디아의 주도권 변화 여부에 쏠린다. 단기적으로는 생성형 AI 모델 학습을 위한 GPU 수요와 국내 반도체 기업들의 고대역폭메모리(HBM) 공급망은 견고하다. 그러나 중장기적으로는 AI 에이전트 구동을 위한 CPU 조합과 특정 연산 영역을 분담할 양자컴퓨터가 시장을 분할할 것으로 전망된다. 고비용 전력 소모와 공급 부족을 겪는 엔비디아 칩의 리스크를 상쇄하려는 빅테크의 움직임은 갈수록 빨라지고 있다.

증권가에서는 한국 반도체 생태계가 HBM과 GPU 밸류체인에만 과도하게 쏠려 있다고 경고한다. 아마존의 그래비톤 확대는 국내 파운드리 산업에 새로운 대형 고객사 확보 기회가 될 수 있지만, 메모리 편중 구조를 깨지 못하면 차세대 AI 연산 패러다임에서 소외될 수 있다고 지적한다. 이에 따라 “메모리 대역폭 한계를 극복할 장치 간 초고속 연결을 지원하는 ‘컴퓨트 익스프레스 링크(CXL)’ 기반 메모리 확장, AI 서버용 고속 인터커넥트 기술, 저전력 CPU 설계 등 시스템 반도체 영역으로의 전방위적 확장이 병행돼야 한다는 제언이 나온다.

일반 투자자가 앞으로 리스크와 기회를 판단하기 위해 주목해야 할 지표는 네 가지다.

첫째, AWS 내 그래비톤 등 자체 CPU 연산 서버 유치 비중이다. 엔비디아 의존도를 줄이려는 빅테크의 비용 절감 척도이자 자체 칩 전환 속도를 가늠할 기준선이다.

둘째, 인텔과 AMD의 서버용 CPU 매출 회복 속도다. AI 에이전트의 오케스트레이션 수요가 전통적 반도체 거인들의 펀더멘털을 바꾸는 파괴력을 지녔는지 입증할 지표다.

셋째, 오는 2029년 기점인 IBM의 양자 칩 오류 저감 기술 실증 여부다. GPU 연산 한계를 넘어서는 양자 컴퓨터 상용화의 분수령이다.

넷째, 엔비디아 데이터센터 매출 성장률의 둔화 여부다. 빅테크의 독자 노선과 연산 다층화 전략이 엔비디아의 독점 지배력을 실질적으로 잠식하고 있는지 보여주는 가장 직접적인 증거다.

엔비디아 중심의 AI 반도체 전쟁은 단일 GPU 구조에서 CPU·양자컴퓨터가 결합하는 다층 연산 체계로 재편되고 있다.


김주원 글로벌이코노믹 기자 park@g-enews.com