"무작정 메모리만 쌓는 건 한계"… MS 핵심 임원, '시스템 혁신' 촉구

인공지능(AI) 인프라 확장에 따라 HBM(고대역폭메모리)을 필두로 한 메모리 반도체 품귀 현상이 심화되는 가운데, 단순히 신규 웨이퍼 팹을 증설해 메모리 생산 용량을 늘리는 방식만으로는 AI 공급망의 병목을 결코 해결할 수 없다는 마이크로소프트(MS) 고위 경영진의 직격탄이 나왔다.

메모리 부족 사태를 개별 부품의 수급 불균형으로 볼 것이 아니라 데이터센터 전체의 구조적 '시스템 문제'로 인식해야 하며, 새로운 패키징 아키텍처와 신소재를 아우르는 시스템 레벨의 혁신과 효율 최적화가 선행되어야 한다는 지적이다.

9월 3일(현지시각) 일본 종합 경제 미디어 닛케이 아시아(Nikkei Asia) 보도에 따르면, 타이베이에서 개막한 글로벌 반도체 전시회 '세미콘 타이완 2026(SEMICON Taiwan 2026)'의 기조연설자로 나선 라니 보르카르(Rani Borkar) 마이크로소프트 애저(Azure) 하드웨어 시스템과 인프라스트럭처 총괄 사장은 업계 전반의 근본적인 패러다임 전환을 강력히 촉구했다.

보르카르 사장은 "시장은 메모리를 단순한 부품이나 수급 문제로 취급하지만, 솔직히 말해 이는 명백한 시스템의 문제"라며 "진정한 해법은 무작정 메모리를 더 높이 쌓아 올리는 것이 아니라, 가용한 자원을 어떻게 유기적으로 활용하느냐에 달려 있다"고 꼬집었다.
그는 CEO 서밋 직후 기자들과 만난 자리에서도 "우리가 물리적으로 메모리 용량을 무한정 증설해 쌓아 올릴 수는 없다"며 "단 1바이트의 메모리도 유휴 상태로 방치되거나 낭비되지 않도록 시스템 차원의 최적화가 시급하다"고 덧붙였다.


현재 글로벌 테크 산업은 생성형 AI 확산에 따라 유례없는 메모리 수요 폭증을 겪고 있으며, 이는 모바일 스마트폰과 PC 등 IT 완제품 업계의 부품 조달난으로까지 번지고 있다.

이에 대응해 삼성전자, SK하이닉스, 미국 마이크론 등 글로벌 메모리 빅3는 물론 대만의 난야·윈본드, 중국의 창신메모리(CXMT)에 이르기까지 일제히 생산 라인 증설에 천문학적인 자금을 쏟아붓고 있다.

세계반도체무역통계기구(WSTS)에 따르면, AI 붐에 힘입어 올해 글로벌 반도체 시장 규모는 당초 2030년으로 예상됐던 1조 달러 선을 훌쩍 뛰어넘어 1조 5,000억 달러(약 2,035조 원)를 조기 돌파할 것으로 전망된다. 그러나 폭발적인 수요에 비해 첨단 패키징 기판, 전력 반도체, 인터커넥트 광모듈 등 공급망 전 부품에서 심각한 병목 현상이 발생하고 있다.

보르카르 사장은 하드웨어 병목을 타개하기 위한 전략으로 '자체 설계(1자 칩)'와 '서드파티 칩'의 상호 보완적 생태계를 제시했다.

엔비디아 등 외부 칩 제조사의 범용 솔루션이 시장의 다양한 요구를 일괄 지원하는 '원 사이즈 핏 올(One-size-fits-all)' 형태라면, 빅테크 기업의 맞춤형 칩은 특정 AI 워크로드에 최적화된 전력·연산 효율을 제공한다는 설명이다.

마이크로소프트는 AI 대규모 언어모델 학습과 가속에 특화된 '마이아(Maia)' 가속기와 클라우드 범용 연산 및 추론을 담당하는 Arm 기반 '코발트(Cobalt) CPU'를 세대별로 지속 발전시키는 데 전념하고 있다.

다만 구글(TPU)과 달리 MS는 이들 맞춤형 칩을 타사 데이터센터에 상업적으로 판매하지 않고, 자사 애저 클라우드의 경쟁력을 극대화하는 내부 '풀스택 시스템' 용도로만 독점 활용한다는 방침이다. 동시에 인텔과 AMD의 최신 x86 CPU를 병용하며 다변화된 데이터센터 인프라를 유지하고 있다.

마이크로소프트는 AI 인프라 확장을 위해 2026년 연간 자본 지출(CAPEX)이 전년 대비 60% 이상 폭증한 1,900억 달러(약 257조 7,730억 원)에 달할 것으로 예상하고 있다.


보르카르 사장은 AI 인프라의 미래 경로로 두 가지 축을 꼽았다.

기존 데이터센터의 가동률과 전력 경제성을 끌어올리는 점진적 개선과 함께, 실리콘 포토닉스(CPO), 유리기판 패키징, 첨단 냉각 소재 등 완전히 새로운 구조를 도입해 "비용 곡선 자체를 바꾸는 변혁적 혁신"이 동반되어야 한다는 설명이다.

그는 "우리는 하드웨어의 기본 설계 철학을 근본부터 재고할 시점에 도달했다"며 "AI의 다음 챕터는 단순히 우리가 물리적으로 얼마나 많은 인프라를 지었는가가 아니라, 그 인프라를 통해 얼마나 높은 수준의 지능(Intelligence)을 효율적으로 창출해 내는가에 의해 결정될 것"이라고 강조했다.

마이크로소프트의 이번 제언은, 향후 ‘HBM 등 개별 메모리 반도체의 물리적 적층 경쟁에 매몰되어 있던 글로벌 AI 밸류체인이 시스템 최적화, 칩렛(Chiplet), 이종 집적 패키징을 아우르는 차세대 아키텍처 혁신으로 패러다임 전환을 맞이하게 될 것임을 알리는 중대한 분수령’으로 작용할 전망이다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com