HBM4·AI칩 설계권 전쟁… 삼성·SK '이중 함정' 해법 3가지

구글·마이크로소프트·아마존·메타가 HBM 하단 로직 다이 설계에 직접 개입하고 나섰다. 자체 메모리 압축·신호처리 알고리즘을 베이스 다이에 하드웨어로 내장해 달라는 요구다. HBM 수요는 폭증하지만, 설계권을 내주는 순간 수익성 결정권도 함께 내준다. 삼성전자·SK하이닉스 주주라면 현재의 슈퍼사이클이 가리고 있는 이 구조적 함정을 정밀하게 읽어야 한다.


HBM4 세대부터 베이스 다이 공정이 5나노 로직으로 전환됐다. 메모리 스택이 단순 저장 부품에서 능동형 연산 보조칩으로 진화한 것이다. 반도체 테스트 업체 어드밴테스트의 진 요코야마 선임이사는 최근 EE타임스를 통해 "HBM4부터 하이퍼스케일러가 AI 전용 칩에 최적화된 맞춤 기능을 베이스 로직 다이에 직접 통합하려 한다"고 밝혔다. 마벨테크놀로지 쿠람 말릭 선임이사도 공식 블로그에서 "엔비디아가 GPU 출시 주기를 연 단위로 단축하면서 JEDEC 표준만 기다릴 수 없어 커스텀 솔루션을 택하고 있다"고 말했다.

하이퍼스케일러의 칩 내재화 속도는 가파르다. 구글 TPU v7 '아이언우드'는 초당 7.37테라바이트(TB) 메모리 대역폭을 구현한다. 마이크로소프트는 지난 1월 27일 TSMC 3나노 공정의 마이아(Maia) 200을 아이오와·피닉스 데이터센터에 배치했다. 아마존은 자체 칩 트레이니엄3에 HBM3E 144기가바이트(GB)를 탑재해 100만 개 이상을 운영 중이다. 오픈AI는 브로드컴과 협력해 올 하반기부터 자체 AI 가속기를 10기가와트(GW) 규모로 양산한다. 요약하면, 빅테크는 'HBM을 사는 고객'에서 '설계를 지시하는 주체'로 이동하고 있다.
이 흐름의 수혜자는 팹리스다. 톰스하드웨어(5월)에 따르면 브로드컴과 마벨이 커스텀 AI 전용 칩 공동설계 시장의 95%를 양분한다. 브로드컴의 2026 회계연도 1분기 AI 반도체 매출은 84억 달러(약 12조 6500억 원)로 1년 전보다 106% 늘었다. 마벨 역시 올해 AI 전용 칩 매출로 110억 달러(약 16조 5700억 원)를 전망한다. 반도체 설계 주도권이 메모리 업체와는 전혀 다른 방향으로 집중되는 구조다.


삼성전자는 2025년 말 11.7Gbps 속도로 최종 SiP(시스템인패키지) 테스트를 완료하고 엔비디아 품질 인증을 통과했다. 이를 바탕으로 지난 2월 12일, 자체 원스톱 턴키 솔루션을 기반으로 6세대(1c) D램과 4나노 파운드리 로직 다이를 융합한 HBM4를 세계 최초로 공식 양산 출하하며 차세대 시장의 선제적 깃발을 꽂았다.

SK하이닉스도 올 2월부터 이천 M16·청주 M15X에서 TSMC 파운드리 공정을 활용한 커스텀 HBM4 16단 제품의 양산을 본격화했다. 여기서 그치지 않는다. 삼성전자는 지난 29일 HBM4 양산 불과 3개월 만에 7세대 HBM4E 12단 샘플을 글로벌 빅테크에 업계 최초로 출하했다. 기존 HBM4 대비 동작 속도가 20% 빠르며, 엔비디아가 내년 출시할 최상위 GPU '루빈 울트라'를 정조준한 제품이다. 삼성의 선제 출하에 SK하이닉스도 당초 하반기로 잡았던 HBM4E 샘플 일정을 전면 앞당겼다.

구글·마이크로소프트·메타 등 빅테크는 삼성전자·SK하이닉스의 HBM4 초기 물량을 완전 매진시켰다고 트렌드포스가 밝혔다. 수요가 공급을 압도적으로 앞서는 상황이다. 범용 D램 고정거래가가 처음으로 20달러를 돌파하는 등 메모리 슈퍼사이클이 확연하다. 공급 가능 물량은 빅테크 수요의 50~66% 수준에 불과하고, HBM 단가는 1년 전보다 70% 이상 올랐다.
그런데도 이것이 안도할 이유가 되지 못한다. 고정된 다이 면적 안에 고객별 지식재산권(IP)을 끼워 넣으면, 비반복엔지니어링(NRE·개발 초기 1회성 설계 비용) 부담과 수율 리스크가 동시에 늘어난다. 마벨의 쿠람 말릭 선임이사는 "HBM이 AI 가속기 전체 원가의 40%를 차지한다"고 밝혔다.

커스터마이징에 따른 NRE(비반복엔지니어링) 비용 부담이 메모리 업체에 전가될 우려가 큰 반면, 맞춤형 칩을 통한 실익의 상당 부분은 고객사가 가져가는 비대칭적 구조다. 슈퍼사이클이 걷히는 순간, '원가는 올라가고 가격 결정권은 내려가는' 구조가 고스란히 드러난다. 트렌드포스는 지난 2월 13일 "엔비디아가 11.7Gbps 고사양과 10.6Gbps 저사양을 병행 조달하는 방안을 검토 중"이라고 전했다. 다공급처 전략으로 메모리 3사의 협상력을 압박하는 포석이다.


국내 증권가는 구조 전환의 방향성을 이미 읽었다. KB증권 김동원 리서치센터장은 이달 29일 보고서에서 "메모리 반도체의 파운드리형 비즈니스 모델 전환은 이익 변동성을 낮추고 외국인 투자 유입을 촉진할 것"이라고 분석했다. SK증권 한동희 연구원도 이달 12일 "장기 공급계약 확대와 고객별 차등 가격 적용으로, 과거 일률적 가격 사이클로는 설명할 수 없는 구조 변화가 진행 중"이라고 진단했다. 하나증권 김록호 연구원은 이달 15일 "삼성전자 파운드리 사업부가 올 하반기 흑자로 전환할 것"이라고 내다봤다.

해법의 핵심은 메모리 파운드리(고객 설계를 반영해 메모리를 맞춤 생산하는 모델) 전략이다. 범용 표준 플랫폼을 선점한 뒤 모듈형 커스터마이징을 허용하는 구조로, 표준은 한국이 짜고 그 위에서 고객이 골라 쓰게 해야 한다. 이 전략이 실효성을 갖추려면 산학연 공용 R&D 인프라 구축이 선행되어야 한다. 현실은 미흡하다. 산업부가 2023년 4월 출범시킨 한국형 IMEC 프로젝트는 예산 확보 실패로 이듬해 TF를 해체했다.

이후 민관 협력 형태의 실질적 대안이 마련됐다. 정부와 SK하이닉스가 합작해 총 1조 원을 투입하는 비영리 재단법인 '트리니티팹(Trinity Fab)'이 공식 출범해 용인 반도체 클러스터 내에 구축 중이다. 완전한 한국형 IMEC 규모에는 미치지 못하지만, 소재·부품·장비(소부장) 기업들이 대기업 양산 라인과 동일한 환경에서 전·후공정 연계 기술을 검증할 수 있는 개방형 R&D 인프라 역할을 맡는다.

IMEC은 표준을 선점해 50여 개국 장비·소재·설계 기업을 끌어들이는 구조로 운영된다. 한국이 이 플랫폼을 산업 생태계 전반으로 확장하지 못하면 HBM에서도 '가격 수용자'에 머물 가능성이 높다고 전문가들은 경고한다.


외부 변수는 위협과 기회를 동시에 내포한다. 중국 CXMT는 HBM3 생산 능력을 화웨이 어센드 시리즈에 투입할 계획이지만, 디지타임스는 지난 4월 21일 "상용화 일정이 불투명해 올해 양산은 어렵다"고 평가했다. 트렌드포스는 공급 부족이 2028년까지 이어질 것으로 전망한다.

미 정부는 대중국 수출통제(EAR) 완화 조건으로 무역확장법 232조를 발동, 미국으로 반입되어 검증받는 엔비디아 H200 및 AMD MI325X에 25%의 수입 관세를 부과하는 독특한 결합 규제를 공식화했다. CHIPS법 세액공제는 착공 기한을 두고 재협상 중이어서 한국 기업의 현지 투자 일정에 변수가 될 수 있다. 삼성전자 황상준 메모리개발실 부사장은 지난 3월 GTC 2026에서 "HBM4 비중을 2027년까지 전체 HBM 생산의 50% 이상으로 높이겠다"고 밝혔다.

안팎의 변수를 감안하면, 반도체 투자자라면 아래 세 가지 지표를 분기별로 추적해야 한다.

첫째, HBM4·4E 커스터마이징 적용 비중과 영업이익률 변화다. 분기 실적 발표(IR)에서 HBM 매출 비중과 평균판매단가(ASP) 추이를 함께 확인해야 한다. NRE 원가가 슈퍼사이클 이후 수익성을 얼마나 잠식하는지를 가늠하는 핵심 체크포인트다.

둘째, 트리니티 팹 2027년 5월 가동 여부와 글로벌 고객사 설계 초기 참여 실적이다. 엔비디아·마이크로소프트의 공급망 발표에서 한국 R&D 팹 관련 언급이 나오는지 주시해야 한다. 개방형 플랫폼 여부가 한국형 IMEC의 실체를 판가름한다.

셋째, 삼성전자 파운드리 사업부의 흑자 전환 시점이다. 하나증권은 엔비디아향 HBM4 베이스다이와 그로크향 파운드리 칩 출하 증가를 근거로 올 하반기를 전환점으로 제시했다. 흑자 전환이 앞당겨질수록 코리아 디스카운트 해소 기대감이 주가에 선반영된다.

HBM 경쟁의 본질은 '누가 더 많이 파느냐'가 아니라 '누가 설계를 쥐느냐'로 바뀌고 있다. 지금의 슈퍼사이클은 구조적 취약성을 가릴 뿐, 문제를 해결하지 못한다.


김주원 글로벌이코노믹 기자 park@g-enews.com