AI 반도체 '속도전' 끝났다… 이제는 '토큰당 비용' 90% 줄이는 놈이 승자

왜 글로벌 반도체 거인들은 단순한 성능 경쟁을 멈추고 ‘토큰당 비용’과 ‘칩렛(Chiplet)’ 설계에 사활을 걸고 있을까? 과거 반도체 전쟁이 누가 더 빠른 칩을 만드느냐는 ‘속도전’이었다면, 2026년 현재의 전쟁은 누가 더 적은 전력으로 저렴하게 AI를 구동하느냐는 ‘경제전’으로 변모했다.

엔비디아가 최신 ‘블랙웰(Blackwell)’ 아키텍처를 앞세워 비용 효율성을 10배 높이며 저만치 달아나자, 애플과 퀄컴은 여러 반도체를 하나로 묶는 ‘칩렛’ 기술로 반격에 나섰다.

IT 전문 매체 Wccftech와 탐스하드웨어의 최근 보도를 종합하면, AI 인프라 시장은 이제 극한의 효율을 뽑아내는 ‘토크노믹스(Tokenomics, 토큰 경제학)’ 시대로 진입했다.


엔비디아는 하드웨어와 소프트웨어를 동시에 설계하는 이른바 ‘극한의 공동설계’로 경쟁사들과의 격차를 벌리고 있다. 지난 12일(현지시각) Wccftech 보도에 따르면, 엔비디아의 최신 ‘GB200 NVL72’ 아키텍처는 이전 세대인 호퍼와 비교해 AI 추론 비용을 10분의 1 수준으로 낮췄다.
이는 72개의 칩을 하나로 묶고 30TB(테라바이트)의 고속 공유 메모리를 결합한 결과다. 이를 통해 방대한 데이터를 처리할 때 발생하는 통신 병목 현상을 해결했으며, 결과적으로 AI 에이전트 구동에 드는 비용을 획기적으로 줄였다. 실제로 센티언트 랩스(Sentient Labs)를 비롯한 주요 AI 기업들은 블랙웰 도입 후 비용 효율이 25~50% 개선되었다고 밝혔다. 엔비디아는 차세대 아키텍처인 ‘베라 루빈’을 통해 이러한 인프라 효율성을 한 단계 더 끌어올릴 계획이다.


애플은 고성능 칩 제조의 한계를 극복하기 위해 ‘칩렛’ 설계로의 전환을 공식화했다. Wccftech는 지난 13일, 애플이 차기 ‘M5 프로’와 ‘M5 맥스’ 칩에 TSMC의 첨단 패키징 기술인 SoIC(Small Outline Integrated Circuit)를 적용할 것이라고 전했다. 칩렛은 하나의 커다란 반도체(단일 다이)를 만드는 대신, 기능별로 분리된 작은 칩들을 이어 붙이는 방식이다. 이 방식을 쓰면 제조 수율을 높여 비용을 줄이면서도 성능을 극대화할 수 있다.

반면 퀄컴은 고민이 깊다. 퀄컴의 최신 칩셋인 ‘스냅드래곤 X2 엘리트 익스트림’은 단일 다이 구조를 유지하고 있는데, 성능을 높일수록 전력 소모가 100W(와트)를 웃도는 등 발열 문제가 불거지고 있다. 칩렛 구조는 칩 간 통신에 추가 전력이 들기 때문에 배터리 효율이 중요한 노트북 시장에서 퀄컴이 선뜻 도입하기 어려운 이유다. 업계에서는 퀄컴이 그래픽 성능(GPU) 등에서 애플 M5 시리즈에 뒤처지지 않으려면 결국 칩렛 설계를 받아들여야 한다고 보고 있다.


PC와 서버 시장의 전통 강자 인텔은 AMD의 거센 추격에 안방을 내주고 있다. 탐스하드웨어가 머큐리 리서치 자료를 인용해 보도한 내용에 따르면, 2025년 4분기 기준 AMD의 x86 CPU 시장 점유율은 29.2%를 기록하며 역대 최고치를 경신했다. 특히 매출 기준 점유율은 35.4%에 달해, AMD가 저가형 칩뿐만 아니라 고마진 프리미엄 시장에서도 인텔의 점유율을 뺏어오고 있음을 보여줬다.
인텔은 서버용 칩 생산에 집중하느라 PC용 칩 공급에 차질을 빚었고, 이 틈을 타 AMD의 ‘라이젠 9000’ 시리즈가 시장을 잠식했다. 인텔은 2026년 말이나 2027년이 되어야 공정 기술의 반전이 가능할 것이라고 인정했다. 이는 향후 몇 분기 동안 AMD의 독주가 계속될 것임을 뜻한다.


반도체 업계 전문가들은 지금의 기술 전쟁이 단순히 숫자를 높이는 단계를 지났다고 분석한다. 익명을 요구한 국내 반도체 설계 전문가는 "엔비디아가 토큰당 비용을 10배 낮췄다는 것은 기업들이 AI 모델을 운영할 때 드는 전기료와 서버 유지비를 90% 아낄 수 있다는 뜻"이라며 "하드웨어의 성능만큼이나 소프트웨어 최적화와 에너지 효율을 하나로 묶는 통합 설계 능력이 기업의 생존을 결정할 것"이라고 말했다.

AI 반도체 시장의 주도권은 '누가 더 싸고 효율적으로 AI 토큰을 생성하느냐'에 달려 있다. 엔비디아의 독주 속에 칩렛으로 무장한 애플의 반격, 그리고 인텔의 빈자리를 파고드는 AMD의 약진은 2026년 글로벌 반도체 시장을 관통하는 핵심 줄기가 될 전망이다.


박정한 글로벌이코노믹 기자 park@g-enews.com