AI 서버 병목, HBM 넘어 저장·확장 메모리로 확산

인공지능(AI) 서버 경쟁의 병목이 고대역폭메모리(HBM)를 넘어 데이터 저장과 이동, 메모리 확장 영역으로 넓어지고 있다. AI 모델이 커지고 추론 데이터가 폭증하면서 기업용 솔리드스테이트드라이브(eSSD), 서버용 D램, 컴퓨트 익스프레스 링크(CXL) 메모리까지 함께 설계하는 능력이 AI 인프라 경쟁의 새 변수로 떠오르고 있다.

14일 업계에 따르면 삼성전자는 최근 PCIe 6.0 기반 AI·고성능컴퓨팅(HPC) 서버용 eSSD 'PM1763' 양산에 들어갔다. PCIe는 서버와 저장장치, 그래픽처리장치(GPU) 등을 연결하는 고속 인터페이스 규격이다. PCIe 6.0은 기존 PCIe 5.0보다 데이터 전송 속도를 높일 수 있어 대규모 데이터를 빠르게 읽고 쓰는 AI 서버 환경에서 중요성이 커지고 있다.

삼성전자가 PM1763을 앞세운 것은 AI 인프라 병목이 저장장치 영역으로 번지고 있기 때문이다. AI 학습과 추론 과정에서는 방대한 데이터를 GPU와 HBM으로 보내기 전 저장하고 불러오는 과정이 반복된다. 이때 eSSD 성능이 낮으면 연산장치가 충분한 성능을 갖췄더라도 데이터 공급이 늦어져 서버 전체 효율이 떨어질 수 있다.

SK하이닉스도 HBM 중심의 경쟁력을 서버용 D램과 eSSD, CXL 메모리로 넓히고 있다. SK하이닉스는 HBM과 서버 D램, eSSD를 아우르는 AI 메모리 포트폴리오를 앞세워 고객사별 서버 구조에 맞춘 제품 공급을 강화하고 있다. CXL은 중앙처리장치(CPU)와 가속기, 메모리 장치를 고속으로 연결해 서버의 메모리 용량을 유연하게 확장할 수 있는 기술로 꼽힌다.
AI 서버에서는 GPU와 HBM이 핵심으로 주목받아 왔다. HBM은 GPU 가까이에 배치돼 대규모 연산에 필요한 데이터를 빠르게 주고받는 역할을 한다. 하지만 AI 모델이 커지고 실시간 추론 수요가 늘수록 병목은 HBM 하나에 머물지 않는다. 데이터를 저장하는 eSSD, 이를 옮기는 인터페이스, 부족한 메모리 용량을 보완하는 CXL 기반 확장 메모리까지 서버 전체 구조가 함께 고도화돼야 한다.

이 흐름은 삼성전자와 SK하이닉스의 경쟁 구도도 바꾸고 있다. 기존 메모리 경쟁이 D램과 낸드, HBM의 성능과 수율에 집중됐다면 AI 인프라 시장에서는 고객사의 서버 설계에 맞춘 통합 솔루션 공급 능력이 중요해지고 있다. GPU와 HBM, 서버 D램, eSSD, CXL 메모리가 맞물려야 데이터 이동 지연을 줄이고 전력 효율도 높일 수 있기 때문이다.

AI 반도체 경쟁은 이제 칩 하나의 성능을 넘어 서버 전체의 병목을 얼마나 줄이느냐의 싸움으로 이동하고 있다. HBM이 AI 연산의 핵심 메모리라면 eSSD와 CXL은 데이터를 저장하고 확장하며 서버 효율을 떠받치는 기반 기술이다. AI 투자 경쟁이 계속될수록 반도체 기업의 승부처도 메모리 단품 공급에서 AI 인프라 전체를 설계하는 방향으로 넓어질 전망이다.


김태우 글로벌이코노믹 기자 ghost427@g-enews.com