IBM, AI 클라우드 구축에 2억 4000만 달러 투입

IBM이 AI 클라우드 인프라 경쟁력을 높이기 위해 스타트업 투게더 AI와 2억 4000만 달러(약 3392억 4000만 원) 규모의 다년 공급 계약을 체결하며, 2027년 초 가동을 목표로 엔비디아 HGX B300 기반 전용 클러스터를 구축한다고 네트워크월드가 8월 11일(현지시각) 보도했다.

고성능 추론용 서버 증설은 엔비디아 칩에 고대역폭메모리(HBM)를 공급하는 SK하이닉스와 삼성전자의 중장기 수주 환경에 호재로 작용할 전망이다.


AI 시장의 무게중심이 모델 학습에서 실시간 연산인 추론으로 빠르게 옮겨가고 있다. 자율 실행형 에이전틱 AI 도입이 대폭 늘면서 연산 수요가 일회성이 아니라 연속적으로 발생하는 구조로 변했기 때문이다.
시장조사업체 가트너 분석을 보면 2026년 전 세계 AI 최적화 서비스형 인프라(IaaS) 지출은 연간 96.0% 늘어 420억 달러(약 59조 3670억 원)에 이른다. 2027년 지출 규모는 660억 달러(약 93조 2910억 원)까지 커질 것으로 보인다.

특히 2026년 글로벌 추론 인프라 지출은 233억 달러(약 32조 9345억 5000만 원)를 기록하며 학습 분야 지출인 190억 달러(약 26조 8565억 원)를 넘어설 전망이다. 전체 AI 인프라 지출 가운데 추론 비중은 2026년 55%에서 2027년 59%로 지속 확대된다. 이러한 변화는 대규모 연산 처리를 뒷받침할 메모리 반도체 수요 상승으로 이어진다.


투게더 AI는 기업이 중국의 딥시크나 키미 같은 개방형 AI 모델을 효율적으로 실행하도록 돕는 플랫폼 기업이다. 2026년 7월 8억 달러(약 1조 1308억 원) 규모 투자를 유치하며 83억 달러(약 11조 7320억 5000만 원)의 기업 가치를 평가받았다.

IBM 클라우드에 구축되는 전용 클러스터는 엔비디아의 스펙트럼-X 이더넷 기술을 결합한다. 이전 세대 인프라보다 최대 30배 많은 AI 팩토리 출력을 내도록 설계됐다.

비풀 베드 프라카시 투게더 AI 최고경영자는 자사 플랫폼이 현재 매달 400조 토큰 이상의 추론 연산을 처리하고 있다고 밝혔다. 그는 이번 협력으로 기업들이 고성능 인프라를 활용해 개방형 AI를 도입하는 속도가 빨라질 것이라고 설명했다.

배런스는 이번 투자 계약을 최근 주가 폭락을 겪은 IBM의 시장 대응 전략으로 평가했다. IBM은 2026년 7월 실적 발표 직후 주가가 하루 만에 25.0% 떨어지며 역대 최대 하락 폭을 기록했다.

아르빈드 크리슈나 IBM 최고경영자는 고객사들이 장비 가격 상승에 대비해 예산을 서버와 저장장치에 먼저 집행하면서 인프라 부문 매출이 기대치에 못 미쳤다고 밝혔다. 수익성이 높은 고마진 소프트웨어 매출 감소도 실적에 부담을 줬다.

IBM 주가는 2026년 6월 초 기록한 역대 최고가인 329.23달러를 크게 밑도는 상태다. 빅테크 기업들이 주도하는 클라우드 시장에서 이번 추론 전용 클러스터 구축으로 반등 계기를 마련할지 주목된다.

다만 고마진 소프트웨어 사업의 회복 여부와 고객사의 인프라 지출 변동성은 여전히 해결해야 할 위험 요인이다. 한국 반도체 기업들 역시 빅테크들의 인프라 투자 방향과 속도를 면밀히 살피며 공급 물량을 조절해야 한다.


김주원 글로벌이코노믹 기자 park@g-enews.com