AI 가성비 검증기 진입… HBM 성장 경로 속도 조절 신호등 켜졌다

미국 실리콘밸리 빅테크 기업들이 직원들의 인공지능(AI) 서비스 이용에 급브레이크를 걸기 시작했다. AI 에이전트의 상시 가동으로 데이터 처리 단위인 '토큰' 소비량이 폭증하면서 비용 부담이 경영을 압박하는 수준에 이르렀기 때문이다.

니혼게이자이신문(닛케이)은 6일(현지시각) 미국 테크 기업들이 과거의 무제한 활용 장려 정책에서 벗어나 비용 통제 국면으로 전환했다고 보도했다. 이번 조치는 AI 투자 효율성 검증 국면 진입 신호로 해석되며, 단기적인 주문 속도 조절 및 가격 협상 압박 가능성을 내포하고 있어 국내 반도체 공급망의 성장 경로를 재점검하는 계기가 될 것으로 보인다.


미국 아마존은 지난 5월 말 사내에 배치했던 'AI 사용량 순위표'를 전격 폐지했다. 그동안은 직원들의 적극적인 기술 도입을 유도하기 위해 이용량이 많은 개발자를 포상했으나, 본래 목적과 무관한 무분별한 토큰 낭비 사례가 적발되면서 데이브 트레드웰 상급부사장이 직접 속도 조절을 지시했다. 메타를 비롯한 다른 미 테크 기업에서도 유사한 조치가 잇따르고 있다.
가장 구체적인 예산 절감책을 내놓은 곳은 우버테크놀로지스다. 우버 기술 부문 경영진은 지난 4월 시점에서 이미 올해 12월까지 책정된 AI 관련 연간 예산을 전액 소진했다고 밝혔다. 미국 앤스로픽의 프로그래밍 자율 제어 소프트웨어인 '클로드 코드'를 도입한 이후 토큰 소비가 예측 범위를 초과한 탓이다. 미국 블룸버그통신은 우버가 직원 한 사람 앞에 도구 1종당 월 1500달러(약 233만 원)의 이용 상한선을 설정했다고 지난 2일 보도했다.


기업들이 비용 통제에 나선 배경에는 AI 에이전트의 특이한 작동 방식과 고유한 비용 구조가 자리 잡고 있다. 개발자가 질문을 던질 때만 단발성으로 작동하는 기존 챗봇과 달리, 스스로 코드를 수정하고 검증하는 자율형 에이전트는 수 시간 동안 연속으로 구동되며 누적 토큰 소비량이 급격히 증가한다. 자율형 에이전트는 단일 작업에 수십에서 수백 배 많은 토큰을 소모하며, 동일 업무 기준 비용이 기존 챗봇 대비 기하급수적으로 상승한다.

앤스로픽의 최상위 모델인 '클로드 뮤토스'의 이용료는 중간 등급인 '오퍼스'의 5배, 보급형인 '하이크'의 25배에 달한다. 성능이 높을수록 비용이 기하급수적으로 뛰는 구조다. 올해 초 실리콘밸리에서는 토큰 소비 극대화를 뜻하는 '토큰맥싱(Tokenmaxxing)'이 유행어였으나, 최근 마이크로소프트(MS)의 AI 개발 간부 소피 레브레히트는 "이제는 토큰맥싱에서 토큰당 창출되는 비즈니스 가치로 시장의 초점이 옮겨갔다"고 진단했다. 즉, AI 경쟁의 기준이 단순 '사용량'에서 '토큰당 수익성(ROI)' 중심으로 이동한 것이다.

이에 AI 개발사인 코그니션AI는 지난 4일 고객사가 생산성 향상을 체감할 때까지 추가 비용을 대납하는 '생산성 보증제'를 임시방편으로 내놓기도 했다.

미국 골드만삭스는 오는 2030년 글로벌 AI 토큰 소비량이 올해 대비 24배로 급증할 것으로 추산했다. 다만 해당 전망은 추론 비용의 획기적 하락과 기업의 ROI 입증이 전제된 시나리오다. 즉, 토큰 수요 증가 속도는 비용 하락곡선과 기업의 수익화 속도에 강하게 연동된다. 미국 빅테크 기업들이 연간 100조 원이 넘는 자금을 데이터센터 구축에 쏟아붓는 상황에서, 비용 통제 움직임은 한국의 정보기술(IT) 생태계와 반도체 수출 전선에 양면적 영향을 미친다.

단기적으로는 기업들의 지출 효율화 기조가 고대역폭메모리(HBM)를 비롯한 차세대 메모리의 단기적 주문 속도 조절이나 가격 협상 압박으로 이어질 가능성이 존재한다. 업계에서는 빅테크의 AI 설비투자(CAPEX) 효율성 검증이 시작됐다며, 국내 반도체 대기업의 실적 행진도 시험대에 오를 수 있다고 분석한다.

반면 중장기적 관점의 낙관론자들은 이번 비용 통제가 AI 시장의 위축이 아닌, 효율성 중심의 질적 성장 국면으로의 진입 신호라고 해석한다. 특히 빅테크 기업들이 엔비디아 의존도를 낮추고 전력 효율을 극대화하기 위해 아마존(Trainium3), 마이크로소프트(Maia), 구글(TPU) 등 자체 맞춤형 AI 칩(ASIC) 개발에 사활을 걸고 있는 점에 주목한다.

맞춤형 ASIC은 특정 워크로드의 연산 효율을 극대화해 인프라 비용을 낮추는 대신 데이터 공급 병목을 고대역폭 메모리 의존 구조로 전환시키며, HBM 탑재량 증가를 구조적으로 유도한다. 글로벌 시장조사기관 옴디아(Omdia)는 빅테크 4사의 올해 CAPEX 합계가 7000억 달러(약 1091조 원)를 넘어설 것이며, 이러한 자체 ASIC 전환과 대역폭 확장 수요가 전체 시장을 견인해 2026년 글로벌 반도체 매출이 사상 최초로 1조 달러(약 1559조 원)를 돌파하는 기폭제가 될 것으로 내다봤다.

증권가에서는 미국 고객사들이 단기적으로는 비용 집행 스탠스를 꼼꼼하게 재점검하고 있는 것은 사실이라면서도 ASIC 최적화를 위한 HBM4 등 차세대 제품의 장기 공급 계약 논의는 현재 일정대로 진행 중이라고 말한다.


AI 인프라 투자의 지속 가능성과 국내 산업계의 파급 효과를 가늠하기 위해 투자자가 향후 자산 배분 시 점검해야 할 실전 지표는 다음과 같다.

첫째, 빅테크 3사의 분기별 CAPEX 조정 여부다. 투자 규모 축소 시 국내 반도체 장비주의 주문 취소와 주가 급락 조건이 된다.

둘째, 엔비디아 차세대 AI 칩의 출하 단가 변동성이다. 칩 가격 하락세가 본격화되면 하위 밸류체인의 마진 압박이 가중되는 신호다.

셋째, B2B AI 서비스의 유료 가입자당 평균 매출(ARPU) 추이다. 기업들이 AI 도입을 통해 실질적인 기업 가치와 실적 호전을 입증하는지 파악하는 척도다.

넷째, HBM의 리드타임 및 장기 공급 계약 유지 여부다. 주문의 연기나 취소 발생 여부는 한국 반도체 기업의 가동률 고점 신호를 가르는 분수령이다.

미국 테크 기업들이 시작한 'AI 가성비' 검증은 단순한 지출 관리를 넘어, AI 자본재 시장이 단순한 거대 담론 중심의 확장 단계에서 수익성을 철저히 따지는 '수익성 검증 국면'으로 진입했음을 알리는 신호탄이다.


김주원 글로벌이코노믹 기자 park@g-enews.com