[김대호 진단] 반도체 열전 (16) 마벨(Marvell)... CXL 무서운 힘

[김대호 진단] 반도체 열전 16: 마벨(Marvell), CXL의 무서운 힘과 인공지능 영토 확장

실리콘밸리 산호세에 위치한 마벨 테크놀로지 본사 1층 로비에 가죽 재킷을 입은 사내가 예고도 없이 나타났다. 엔비디아의 창업자 젠슨 황이었다. 비서진도 대동하지 않은 채 사옥으로 걸어 들어온 그의 표정은 잔뜩 굳어 있었다. 마벨의 엔지니어링 담당 부사장이 황급히 내려와 그를 CEO 접견실로 안내하려 하자, 젠슨 황은 손을 가로저으며 "회의실로 가자"고 다그쳤다.

당시 엔비디아는 H100과 차세대 블랙웰 칩을 팔아치우며 사상 최대의 호황을 누리고 있었으나, 내부적으로는 거대한 재앙이 싹트고 있었다. 마이크로소프트와 구글 등 거대 테크 기업들이 엔비디아의 GPU 수만 개를 사다가 데이터센터를 지었지만, 막상 가동률을 올리자 시스템이 통째로 멈춰 서거나 연산 속도가 기어 다니는 처참한 성적표를 받아 들었기 때문이다. 원인은 칩의 연산 속도가 아니라 '메모리 병목'이었다. 아무리 성능이 좋은 가속기라도 데이터를 주고받는 통신 통로와 메모리 공유 장치가 막히자, 수십억 달러짜리 데이터센터가 거대한 고철 덩어리로 변해버린 것이다. 빅테크들의 항의전화가 엔비디아 본사로 빗발쳤다.

회의실 화이트보드 앞에 선 젠슨 황은 마벨의 수석 엔지니어들을 향해 마커펜을 내던지듯 칠판을 채워 나갔다. 그는 엔비디아 칩셋의 구조적 결함과 메모리 정체 구간을 사정없이 갈겨쓴 뒤, 마벨의 엔지니어들을 매섭게 쏘아보았다."우리가 아무리 빠른 엔진(GPU)을 만들어도, 너희가 만든 인터체인지(CXL 및 네트워킹 칩)에서 병목이 생기면 AI 혁명은 사기극으로 끝난다. 빅테크들이 우리 칩을 쓰면서 메모리가 모자라 손가락만 빨고 있다. 당장 마벨의 차세대 CXL(Compute Express Link) 컨트롤러를 엔비디아의 블랙웰 시스템에 칩렛(Chiplet) 형태로 통째로 박아 넣어야겠다."
마벨 개발진이 "현재 공정으로는 전력 소모와 데이터 손실률을 잡기가 불가능하다"며 난색을 표하자, 젠슨 황은 테이블을 내리쳤다."돈은 얼마든지 주겠다. 엔비디아의 핵심 개발 인력과 수억 달러의 선급금을 지금 당장 꽂아주겠다. 그러니 변명은 집어치우고 석 달 안에 이 병목을 뚫어라. 못 뚫으면 나와 너희 모두 끝장이다." AI 제국의 절대 권력자가 중견 반도체 설계 회사를 찾아와 사실상 기술적 '구걸'과 압박을 동시에 감행한 이 날의 기습 담판은 실리콘밸리 반도체사에서 가장 극적인 순간으로 기록된다. 엔비디아라는 거인이 직면한 가장 치명적인 아킬레스건을 치료할 유일한 의사가 바로 마벨 테크놀로지였음을 증명한 사건이었기 때문이다.

마벨 테크놀로지의 창업자 세하트 수타르자(Sehat Sutardja)의 인생 궤적은 아메리칸드림의 가장 완벽한 반도체적 변주이다. 1961년 인도네시아 자카르타의 평범한 화교 가정에서 태어난 그는 유년 시절부터 기계 안을 뜯어보고 라디오를 조립하는 데 천재적인 소질을 보였다. 인도네시아의 척박한 기술 환경 속에서도 그는 12세의 나이에 라디오 수리기사 자격증을 취득할 정도로 전자공학에 중독되어 있었다.더 넓은 세상에서 첨단 학문을 배우고자 했던 수타르자는 미국 유학길에 오랐다. 아이오와 주립대학교를 거쳐 세계 전자공학의 메카인 캘리포니아 대학교 버클리(UC 버클리)에서 전기공학 및 컴퓨터과학(EECS) 박사 학위를 취득하였다.

UC 버클리 시절은 그의 기술적 깊이를 완성한 시기이자, 인생의 동반자들을 만난 운명의 시간이었다. 그는 이곳에서 같은 화교 출신이자 공학도였던 아내 웨이리 다이(Weili Dai), 그리고 친동생인 팬타스 수타르자(Pantas Sutardja)와 함께 실리콘밸리의 패러다임을 바꿀 원대한 구상을 구체화하기 시작하였다.이들 이민자 삼총사는 거대 자본도, 든든한 배경도 없었으나 세계 최고 수준의 아날로그 및 디지털 혼성신호(Mixed-Signal) 반도체 설계 기술력을 확신하고 있었다. 1995년, 세하트 수타르자와 웨이리 다이, 팬타스 수타르자는 자신들의 소박한 아파트 거실에서 마벨 테크놀로지를 공동 창업하였다. 기업명 '마벨(Marvell)'은 경이로움을 뜻하는 'Marvelous'에서 따온 것으로, 전 세계를 놀라게 할 반도체를 만들겠다는 이민자 청년들의 야심이 그대로 녹아 있는 사명이었다.

창업 초기 마벨이 주목한 시장은 하드디스크 드라이브(HDD)용 읽기/쓰기 채널(Read/Write Channel) 칩 시장이었다. 당시 이 시장은 텍사스 인스트루먼트(TI) 등 글로벌 반도체 공룡들이 장악하고 있었기에, 신생 스타트업이 명함을 내밀기조차 어려운 구조였다. 그러나 세하트 수타르자는 기존 칩들의 전력 소모가 극심하고 데이터 처리 속도가 하드디스크의 물리적 한계를 따라가지 못한다는 약점을 정확히 간파하였다.마벨 창업팀은 밤낮없이 설계에 몰두하여 기존 제품 대비 크기는 절반으로 줄이고, 데이터 전송 속도는 2배 이상 빠르며, 전력 소비량은 획기적으로 낮춘 혁신적인 HDD 컨트롤러 칩을 시장에 내놓았다. 이 제품은 당시 하드디스크 시장의 절대 강자였던 시게이트(Seagate)와 웨스턴디지털(WD)의 선택을 받으며 단숨에 마벨을 주류 반도체 업계의 반열에 올려놓았다.

마벨은 스토리지 컨트롤러에서의 성공에 안주하지 않고, 네트워킹 반도체 영역으로 급격히 영토를 확장하였다. 이더넷(Ethernet) 물리 계층(PHY) 칩과 스위치 칩 분야에서 두각을 나타내며 시스코(Cisco) 등 글로벌 통신 장비 업체들의 핵심 파트너로 자리 잡았다. 2000년대 중반에 이르러 마벨은 와이파이, 블루투스 등 무선 통신 칩셋까지 석권하며 글로벌 팹리스(반도체 설계 전문) 기업 탑 10에 진입하는 기염을 토했다.마벨의 성장은 철저하게 '신호 처리의 고속화와 저전력화'라는 엔지니어링적 본질에 집착한 결과물이었다. 창업주 세하트 수타르자는 "남들이 불가능하다고 말하는 아키텍처의 한계를 깨부수는 것이 마벨의 DNA"라고 강조하며, 연구개발(R&D)에 매출의 상당 부분을 쏟아붓는 기술 제일주의 경영을 관철하였다.
마벨이 AI 시대의 황태자로 급부상한 핵심 동력은 바로 CXL(Compute Express Link) 기술이다. AI 연산 모델이 거대언어모델(LLM)을 넘어 멀티모달(Multimodal)로 진화함에 따라, GPU가 처리해야 할 데이터의 양은 기하급수적으로 폭증하였다. 그러나 기존의 컴퓨터 시스템 아키텍처는 고질적인 한계에 직면해 있었다. CPU와 GPU, 그리고 각각의 메모리(DRAM)가 독립된 장벽(Silo) 내에 갇혀 있어, 상대방의 메모리 공간에 직접 접근하지 못하고 복잡한 버스(Bus) 프로토콜을 거쳐 데이터를 복사해야만 했기 때문이다. 이 과정에서 엄청난 지연 시간(Latency)과 전력 손실이 발생한다.

CXL은 이러한 이기종 프로세서 간의 메모리 장벽을 허물고 하나의 거대한 '메모리 풀(Memory Pool)'을 공유하게 만드는 차세대 인터커넥트 표준이다. 마벨은 CXL 컨트롤러 시장에서 가장 앞선 기술력을 선보이며 시장을 주도하고 있다. 마벨의 CXL 솔루션은 호스트 프로세서와 가속기, 그리고 메모리 확장 장치를 유기적으로 연결하여, 데이터센터 내의 모든 연산 장치가 마치 자신의 내장 메모리를 쓰듯 다른 장치의 DRAM을 초고속으로 공유하도록 만든다.마벨의 차세대 CXL 아키텍처는 흥미롭게도 블록체인(Blockchain)의 분산 원장 및 검증 구조적 개념과 궤를 같이한다. 초고속 데이터 통로에서 수만 개의 가속기가 메모리를 난타할 때, 데이터의 무결성과 일관성을 유지하는 것은 불가능에 가깝다. 마벨은 이를 해결하기 위해 CXL 링크 상의 개별 노드들이 데이터의 변동 상태를 상호 검증하고 동기화하는 분산 아키텍처를 도입하였다. 중앙의 단일 컨트롤러에 의존하지 않고, 각각의 메모리 블록이 블록체인의 합의 알고리즘처럼 실시간으로 데이터 무결성을 검증하는 구조이다. 이 무서운 기술적 메커니즘 덕분에 마벨의 CXL 칩은 거대 데이터센터의 어떤 과부하 속에서도 시스템 다운 없이 안정적인 연산을 보장한다.

실리콘밸리에서 마벨의 진격을 가장 매서운 눈으로 감시하고 있는 경쟁자는 다름 아닌 네트워킹 반도체의 절대 강자 브로드컴(Broadcom)이다. 브로드컴은 CEO 헉 탄(Hock Tan)의 지휘 아래 수많은 인수합병(M&A)을 단행하며 글로벌 데이터센터 스위치 및 라우팅 칩 시장의 80% 이상을 장악한 포식자이다.AI 데이터센터 인프라가 고도화되면서 마벨과 브로드컴은 외나무다리에서 만났다. 브로드컴은 자신들의 거대한 시장 지배력과 '토마호크(Tomahawk)' 및 '트라이던트(Trident)' 시리즈로 대표되는 강력한 이더넷 스위치 칩 라인업을 앞세워 마벨의 진입을 압박하고 있다. 브로드컴은 전통적인 고속 네트워킹의 강점을 유지하면서 맞춤형 ASIC(주문형 반도체) 시장에서도 구글의 TPU 생산을 도맡는 등 확고한 영토를 구축하였다.

벨은 브로드컴의 거대한 덩치에 밀리지 않는 고유의 치명적인 무기를 갈고닦았다. 브로드컴이 범용 네트워킹의 거대 표준화에 집중할 때, 마벨은 '칩렛(Chiplet) 아키텍처'와 '커스텀 컴퓨팅 솔루션'으로 맞불을 놓았다. 마벨은 고객사가 원하는 특정 고성능 IP(지식재산권)를 레고 블록처럼 조합해 최적의 AI 가속 인터페이스를 신속하게 설계해 주는 맞춤형 서비스에서 브로드컴보다 유연하다는 평가를 받는다. 무엇보다 앞서 언급한 CXL 기반의 메모리 연결성 분야에서는 마벨이 브로드컴보다 한 발 앞서 생태계를 선점하며 차별화된 방어선을 구축하는 데 성공하였다.

글로벌 금융 시장의 심장부인 월가 역시 마벨의 숨겨진 파괴력을 뒤늦게 알아차리고 뜨거운 환호를 보내고 있다. 세계적인 투자은행(IB) JP모건(J.P. Morgan)은 최근 발표한 반도체 산업 심층 보고서를 통해 마벨 테크놀로지를 'AI 인프라 확장의 최대 수혜주이자 반드시 포트폴리오에 담아야 할 최우선 추천 종목(Top Pick)'으로 선정하였다.JP모건의 수석 애널리스트는 엔비디아의 GPU 판매 호조가 필연적으로 데이터 전송 인프라의 과부하를 야기할 수밖에 없음을 지적하며, 마벨이 보유한 광반도체(Optical DSP) 및 CXL 컨트롤러의 매출이 향후 수년간 복합 연평균 성장률(CAGR) 40% 이상을 기록할 것이라고 추산하였다. 시장이 단순히 연산 장치(GPU)의 단기 실적에만 매몰되어 있을 때, JP모건은 그 연산 장치들을 연결하는 '인터커넥트 밸류체인'의 구조적 가치 상승을 정확히 짚어낸 것이다.

빅테크 기업들이 자체 AI 칩을 설계하는 '가속기 내재화' 흐름 속에서, 마벨은 그들이 어떤 칩을 만들든 반드시 탑재해야 하는 고속 네트워킹 및 CXL IP를 보유하고 있기 때문에 구조적으로 패배할 수 없는 비즈니스 모델을 확보하고 있다. 마벨은 AI 칩 전쟁의 승자가 누구든 상관없이 모든 승자에게 통행세를 징수하는 '실리콘밸리의 가장 확실한 톨게이트'로 자리매김하고 있다.

인도네시아 출신의 이민자 청년이 아파트 거실에서 품었던 경이로운 반도체에 대한 꿈은 이제 인류의 가장 거대한 기술 혁명인 AI의 근간을 지탱하는 핵심 축으로 만개하였다. 마벨 테크놀로지는 거대 공룡들과의 끊임없는 사투 속에서도 기술적 본질을 잃지 않았고, 데이터 병목이라는 시대적 난제를 CXL이라는 혁신적 도구를 통해 정면으로 돌파해 나가고 있다.단순히 속도가 빠른 반도체의 시대는 갔다. 이제는 어떻게 연결하고, 어떻게 메모리를 공유하며, 어떻게 무결성을 유지하느냐가 컴퓨팅의 성패를 가른다. 블록체인 구조를 방불케 하는 견고한 CXL 솔루션과 엔비디아, JP모건 등 글로벌 동맹군들의 강력한 지지를 바탕으로 마벨이 보여주는 '연결의 힘'은 무섭도록 강력하다. 인공지능의 거대한 영토 확장의 이면에는 그 영토의 핏줄을 잇고 고속도로를 닦는 마벨의 보이지 않는 지배력이 도사리고 있으며, 이것이 바로 우리가 마벨의 행보를 단 한 순간도 눈여겨보지 않을 수 없는 이유이다.


김대호 글로벌이코노믹 연구소장 tiger8280@g-enews.com