성능 최고 아니어도 가성비 우선… 고빈도 업무 중심으로 중국산·오픈소스 채택
학습에서 추론으로 AI 패러다임 전환… HBM 수요 구조 변화와 소버린 AI 재정의 직면
학습에서 추론으로 AI 패러다임 전환… HBM 수요 구조 변화와 소버린 AI 재정의 직면
이미지 확대보기AI 인프라 시장이 무조건적인 성능 경쟁에서 효율성 중심의 가격 경쟁으로 변모하면서, 한국 반도체 업계의 고대역폭메모리(HBM) 수요 구조와 자체 AI 생태계를 구축하려는 소버린 AI 전략도 전면적인 재정의 요구를 맞이했다.
미국 기술 전문 매체 퓨처리즘은 지난 7월 13일(현지시각) 보도에서 도어대시, 에어비앤비, 지멘스 등 글로벌 기업들이 비용 절감과 맞춤형 특화를 위해 중국산 AI 도구를 일부 업무에 도입하고 있다고 밝혔다. 이들 기업은 고난도 핵심 업무에는 여전히 미국산 선도 모델을 사용한다. 반면 대량의 데이터 처리가 필요한 하위 작업에는 가격이 저렴하고 매개변수 조율이 자유로운 중국의 개방형 가중치(오픈 웨이트) 모델을 선택해 비용 효율성을 극대화한다.
폭증하는 비용 부담… 저이용·고빈도 워크로드 분리 가속
기업들이 멀티모델 다변화로 발길을 옮기는 직접적인 원인은 감당하기 어려운 수준으로 치솟은 미국산 선도 AI 서비스 이용 비용 탓이다.
현재 기업들의 누적 비용 부담은 임계점에 달했다. 미국 금융 솔루션 기업 램프(Ramp)가 2026년 발표한 AI 인덱스 보고서를 보면, AI 기술 도입에 가장 적극적인 상위 1% 기업들이 한 사람 앞에 지출하는 월평균 AI 비용은 7500달러(약 1117만 원, 15일 원/달러 환율 1490원 기준)에 이른다.
반면 동일 토큰 기준으로 추론 비용을 비교할 때 중국 지푸AI(Z.ai)의 최신 모델인 'GLM-5.2'는 백만 토큰당 약 1.40달러의 비용이 발생한다. 이는 미국산 동급 모델과 비교해 사용 수수료가 최대 수십에서 수백 분의 일 수준에 불과한 수치다.
미국 샌프란시스코의 벤처기업 린디는 앤스로픽의 도구를 일부 대체해 딥시크의 최신 모델 V4를 특정 워크로드에 채택했다. 앤디 팡 도어대시 공동 창업자도 중국 문샷 AI의 모델을 하위 업무에 도입해 비용을 크게 절감했다고 밝혔다.
조지타운 대학교 보안과 신기술센터의 샘 브레스닉 연구원은 "필요한 많은 워크로드에서 중국 모델이 대체로 쓸 만하다"며 "모든 업무에 미국산 모델의 프리미엄을 지불할 이유가 없다"고 진단했다.
기술 격차 축소와 지정학적 규제가 부른 대안 모델 선호
중국 지푸AI가 지난 6월 13일 선보인 GLM-5.2 모델은 실리콘밸리 기술진 사이에서 특정 성능 평가 기준 미국 시스템과 대등한 수준을 보인다는 평가를 받았다.
중국 모델 상당수가 소스코드를 공개하는 개방형 가중치 방식을 취한다. 덕분에 기업이 자체 보안 장벽 안에서 데이터를 직접 통제하고 고유 요구에 맞춰 내부 인프라(온프레미스) 환경처럼 개조하기 쉽다. 다만 모델 구조상 기술적인 통제는 쉬워도 민감한 기업 데이터 누출이나 서구권 규제 당국의 안보 가이드라인 위반 같은 '데이터 주권 리스크'는 별개의 문제다.
실제로 미국 행정부는 2026년 6월 국가 안보 우려를 이유로 앤스로픽의 최신 인공지능 모델인 '미토스 5'에 대한 해외 접근 제한 조치를 단행했다. 기술 종속을 경계하는 외국 기업들 사이에서 공급 안정성에 대한 불신이 커진 배경이다. 캐나다 AI 그룹 코헤어의 에이든 고메즈 최고경영자(CEO)는 "특정 단일 주체에게 전체 업무를 맡길 때 발생하는 위험이 드러난 사건"이라고 지적했다.
이에 따라 중국산 모델 도입 시 수반되는 법적 준수 위험을 피하려는 유럽 기업들은 중립적인 서구권 오픈소스 모델을 대안으로 선호하는 움직임을 보인다.
HBM 시장 성장률 둔화 압력… 한국 반도체·AI 전략 재정의
글로벌 기업들이 추론 중심의 저가형 모델과 오픈소스로 눈을 돌리면서, 초고성능 하드웨어 위주로 질주하던 한국 반도체 업계의 가치평가(밸류에이션) 논쟁이 재점화한다.
초고성능 빅모델 학습에 필수적인 엔비디아 그래픽처리장치(GPU)와 고대역폭메모리(HBM) 수요는 여전히 마이크로소프트, 구글 등 빅테크의 설비투자(CAPEX) 확대 기조와 멀티모달 경쟁에 의해 지지받는다. 따라서 단기적인 시장 붕괴로 이어질 가능성은 낮다.
다만 시장의 주류 워크로드가 가벼운 추론 위주로 분산되면 HBM의 폭발적인 수요 성장 탄력은 다소 둔화할 수 있다. 특히 고가의 GPU 대신 비용을 낮추기 위한 추론 최적화 반도체(ASIC, NPU)의 확산 여부도 향후 HBM 수요를 가르는 변수로 작용할 전망이다. 초고성능 학습용 HBM 시장은 견고하더라도, 다변화된 추론 시장에서는 일반 고성능 D램 중심으로 수요 구조가 분산될 가능성이 크기 때문이다.
국가별 자체 생태계를 구축하려던 한국형 소버린 AI 전략 역시 단순한 독자 모델 개발에서 벗어나 전략적 재정의가 시급해졌다. 막대한 자본이 드는 전 영역 범용 거대언어모델(Full-stack LLM) 개발은 현실성이 떨어진다는 지적이다.
대신 제조, 금융, 국방 등 한국이 강점을 가진 산업 특화 모델 영역을 선점해야 한다는 전문가들의 목소리가 힘을 얻고 있다. 데이터 독점권을 확보하고 AI 칩과 반도체 패키지를 묶어 공급하는 전략적 효율화도 현실적인 처방으로 꼽힌다.
패러다임 전환기, 투자자가 주시해야 할 세 가지 지표
AI 시장이 단일 패권이 아닌 '프론티어 모델–오픈소스–초저가 모델'이 공존하는 3층 구조로 재편됨에 따라, 향후 관련 산업의 향방을 가늠하기 위해 다음 세 가지 지표를 주시해야 한다.
첫째, 글로벌 빅테크 기업들의 인공지능 설비투자 효율성 지표다. 블룸버그 인텔리전스가 분석한 보고서에 따르면 마이크로소프트와 메타를 비롯한 주요 빅테크 기업들은 2026년 하반기에도 인공지능 인프라 투자를 지속하지만, 투자 규모의 무조건적인 확장보다 자본투자 효율성(ROI)을 핵심 기준으로 삼아 증가 속도를 조절하기 시작했다.
둘째, 글로벌 추론용 반도체 시장 내 비중 변화다. 시장조사업체 트렌드포스가 2026년 상반기에 발표한 인공지능 하드웨어 보고서를 보면 고비용 엔비디아 GPU 중심 체제에서 특정 기업에 특화한 주문형 반도체(ASIC) 및 신경망처리장치(NPU)의 채택 비중이 확대되는 추세다. 이들 칩의 확산 정도에 따라 HBM 대비 고용량 서버용 DDR5 D램의 수요 비중이 변동한다.
셋째, 글로벌 인공지능 사용량 집계 플랫폼의 오픈소스 모델 점유율 추이다. 인공지능 분석 플랫폼 오픈라우터(OpenRouter)가 실시간으로 집계하는 API 호출 통계에 따르면, 보안을 담보할 수 있는 서구권 중립형 오픈소스 모델 및 경량 모델의 호출 점유율이 2026년 상반기에 직전 분기 대비 두 자릿수 성장세를 나타냈다. 이 채택률 변화가 인프라 쏠림 현상을 완화하는 핵심 선행 지표로 작동한다.
AI 시장은 이제 '어떤 모델이 가장 똑똑한가'를 증명하는 경쟁을 넘어, '어떤 조합이 가장 비용 효율적인가'를 따지는 복합적 최적화 문제로 진화했다. 국내 기술 기업들도 독자 모델 만능주의에서 벗어나 고유 자산을 지키면서 비용 효율성을 극대화하는 실리 경제로의 전략적 전환을 서둘러야 한다.
김주원 글로벌이코노믹 기자 park@g-enews.com

































