“GPU만으론 AI 폭발 감당 못 한다”... 샌디스크 CTO “AI 패권, 컴퓨팅 아닌 ‘메모리’가 결정”

인류의 하이테크 가치사슬을 흔들고 있는 글로벌 인공지능(AI) 패권 경쟁의 패러다임이 그래픽처리장치(GPU) 중심의 연산 속도 싸움에서 데이터를 기억하고 유지하는 ‘메모리 반도체’ 전쟁으로 급격히 재편되고 있다.

초거대 AI 모델의 고도화와 인간의 뇌를 모방한 알고리즘의 확산으로 인해 메모리 요구량이 기하학적으로 폭증하면서, 오는 2030년까지 전 세계적인 메모리 공급 절벽이 이어질 것이라는 경고가 나왔다.

28일(현지시각) 닛케이 아시아와 글로벌 반도체 업계에 따르면, 낸드(NAND) 플래시 및 스토리지 솔루션의 글로벌 리더인 샌디스크(Sandisk)의 알퍼 일크바하르 최고기술책임자(CTO) 겸 부사장은 닛케이 아시아와의 단독 인터뷰를 통해 이 같은 시장의 구조적 대전환을 선언했다.

일크바하르 CTO는 “그래픽 처리 장치(GPU)나 중앙 처리 장치(CPU) 같은 원시 연산 능력에만 의존하는 기존 방식으로는 점점 더 비대해지는 AI 작업 부하를 감당하기에 턱없이 부족하다”며 인간의 뇌를 예로 들었다.
그는 “인간은 기억의 합으로 정의되며 무언가를 배울 때마다 뇌의 물리적 구조가 변한다”며 “현재 AI 경쟁의 본질 역시 이와 똑같은 ‘메모리 중심(Memory-Centric)’으로 이동하고 있다”고 진단했다.


샌디스크 기술 진영이 AI 시장을 ‘메모리 중심’으로 규정한 배경에는 거대 언어 모델(LLM)의 진화 방향과 직접적인 연관이 있다.

오픈AI의 챗GPT, 구글 제미나이, 앤트로픽 클로드 등 최첨단 시스템들은 대화의 흐름과 이전 입력 값을 처음부터 다시 계산하지 않고 기억해 두는 ‘키값(KV) 캐시’에 전적으로 의존한다.

이 KV 캐시는 AI의 단기 기억 장치 역할을 하며 추론 속도를 혁신적으로 높여주지만, 대화 내용이 길어지고 컨텍스트 창이 확장될수록 메모리 용량을 가혹할 정도로 잡아먹는 아킬레스건이 된다.

하나의 거대 모델 대신 특정 분야에 특화된 여러 개의 소형 모델을 융합해 필요할 때만 호출하는 ‘전문가 혼합(MoE)’ 알고리즘이 대세로 자리 잡았다. 이는 연산(컴퓨팅)에 가해지는 부하는 줄여주지만, 수많은 전문가 모델을 상시 대기시키기 위해 아득히 더 많은 메모리 공간을 요구하게 된다.
이 같은 기술적 요인들이 결합하면서 현재 전 세계 전자 산업은 동적임의접근메모리(DRAM)는 물론 낸드 플래시까지 가리지 않고 사상 최악의 숏티지(물리적 부족) 국면에 진입했다.

업계 경영진은 AI 인프라 구축 광풍으로 인한 공급 제약 대차대조표가 오는 2030년까지 장기 지속될 것으로 내다보고 있다. 글로벌 시장조사기관 옴디아(Omdia)는 2026년 전 세계 NAND 가격이 250% 이상 초폭등할 것이라는 파격적인 전망을 내놓기도 했다.


원자재 공급 셧다운 공포가 빅테크 진영을 엄습하자, 시장의 구매 관행도 완전히 뒤바뀌었다. 과거에는 메모리 제조사들이 자체 수요 예측에 의존해 공장을 증설했고 빅테크 고객들은 필요할 때마다 현물 시장 등에서 단기 계약을 체결하는 것이 일반적이었다.

그러나 일크바하르 CTO는 “업계 베테랑으로 일하면서 고객들이 이토록 필사적으로 메모리 공급 물량을 확정 지으려는 모습은 처음 본다”며 “시장과 주요 빅테크 고객들의 행동에서 거대한 구조적 변화가 나타나고 있다”고 밝혔다.

실제로 샌디스크는 최근 글로벌 빅테크 고객사들과 최대 5년간 최소 420억 달러(한화 약 57조 원) 이상 규모에 달하는 대형 장기 구매 계약을 무려 5건이나 연쇄 체결했다고 전격 발표했다. 미래 공급 가시성을 선제적으로 확보하기 위해 고객사들이 수년 치 물량의 대금을 미리 묶어두는 배수진을 친 셈이다.


샌디스크는 고대역폭 메모리(HBM)가 주도해 온 AI DRAM 시장의 바통을 이어받을 차세대 낸드 플래시 기술인 ‘고대역폭 플래시(HBF·High Bandwidth Flash)’를 미래 최종 승부처로 지목했다.

현재 SK하이닉스와 삼성전자, 마이크론이 주도하는 HBM은 AI 학습 단계에서 핵심 자원으로 쓰이지만, 향후 답변과 예측을 생성하는 ‘AI 추론(Inference)’ 시대가 본격화되면 훨씬 더 거대한 용량과 밀도를 가진 스택형 플래시 메모리(HBF)가 필수적이라는 논리다.

샌디스크 측은 HBF가 HBM 수준의 대역폭을 유지하면서도 용량과 메모리 밀도 면에서 아득한 우위를 점해 미래 AI 인프라의 가성비를 극대화할 수 있다고 강조했다.

이를 위해 샌디스크는 한국의 SK하이닉스와 손잡고 HBF 기술에 대한 글로벌 표준을 공동 개발하는 독점 가치사슬 연대를 완성했다.

일크바하르 CTO는 “NAND 진영의 다음 메가 트렌드는 단연 HBF가 될 것”이라며 “현재 개별 원시 칩(다이) 설계를 진행 중이며, 올해 말 샘플 칩 출시를 시작으로 내년에는 컨트롤러가 탑재된 완전한 HBF 완제품을 시장에 출격시킬 것”이라고 천명했다.

아울러 샌디스크는 일본 최고의 메모리 칩 제조사인 키옥시아(Kioxia)와 맺고 있는 생산 및 기술 개발 장기 파트너십 조건을 최소 2032년까지 유지하기로 확정하며 든든한 생산 병참기지까지 확보한 상태다.

정보통신(IT) 자산운용사 전문가는 “화웨이의 우회 칩 자강론이나 샤오미·테슬라의 가성비 치킨게임의 이면에는 결국 이 모든 연산을 뒷받침할 메모리 인프라의 확보 여부가 깔려 있다”며 “샌디스크의 주가가 지난 1년간 3,500% 이상 초폭등하고 1분기 총이익률이 78%를 기록한 경이적인 대차대조표는 메모리 권력 이동을 증명하는 서막에 불과하며, 향후 SK하이닉스와의 HBF 연대 세력이 삼성전자의 아성을 어떻게 위협할지가 핵심 관전 포인트”라고 평했다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com