'MARS' 통해 CXL 풀드 메모리 기반 KV 캐시·토큰 공유 등 3가지 기술 공개
SK텔레콤과 LLM 추론 환경서 실증…HBM4E·소캠2 등 제품군도 전시
SK텔레콤과 LLM 추론 환경서 실증…HBM4E·소캠2 등 제품군도 전시
이미지 확대보기SK하이닉스는 지난 15일부터 20일까지(현지 시각) 미국 시카고에서 열린 '슈퍼컴퓨팅 2026'에 참가해 메모리 중심 AI 랙 시스템 'MARS' 등 차세대 메모리 설루션을 선보였다고 20일 밝혔다. 슈퍼컴퓨팅 2026은 고성능컴퓨팅(HPC)과 AI 분야의 최신 기술이 모이는 글로벌 콘퍼런스로, 올해는 1만 명이 전시장을 찾았고 500여 개 기업·기관이 참여했다.
MARS(Memory-centric AI Rack System)는 메모리를 중심으로 파트너사의 설루션을 하나의 랙(서버와 저장장치를 층층이 쌓아 설치하는 표준 프레임)에 통합한 시스템이다. SK하이닉스는 전시장에서 MARS와 관련한 3가지 기술을 시연했다.
우선 컴퓨트 익스프레스 링크(CXL) 메모리와 CXL 하이브리드 메모리를 묶어 서버 여러 대가 'KV 캐시'를 공유하는 풀드 메모리(여러 메모리를 묶어 나눠 쓰는 방식)를 선보였다. CXL은 중앙처리장치(CPU)와 그래픽처리장치(GPU), 메모리를 효율적으로 연결하는 차세대 인터페이스이고, KV 캐시는 AI가 대화 중 앞서 계산한 결과를 저장해 두는 임시 메모리다. 새로 생기는 대용량 KV 캐시는 CXL 하이브리드 메모리 안의 SSD에 저장하고, 다시 쓸 때는 필요한 데이터를 예측해 D램으로 빠르게 불러온다. 회사는 이를 통해 대용량 저장 공간을 확보하면서도 빠른 읽기 성능을 낼 수 있다고 설명했다.
마지막으로 CXL 풀드 메모리로 연결된 CPU 서버들이 토큰(AI가 처리하는 최소 단위)을 공유해 중복 처리를 줄이는 기술을 보여줬다. 텍스트와 이미지 등을 함께 다루는 멀티모달 AI 서비스에서 GPU 대기 시간을 줄여 서비스 성능을 높였다고 회사는 밝혔다.
SK하이닉스는 별도 전시 구역에서 KV 캐시를 CXL 메모리 풀로 내려 보관하는 'KV 캐시 오프로딩 오버 CXL' 기술도 소개했다. 곧 쓸 KV 캐시는 고대역폭메모리(HBM)와 D램에 두고, 나중에 다시 불러낼 KV 캐시는 CXL 메모리 풀에 보관하는 구조다. 회사는 SK텔레콤과 함께 실제 거대언어모델(LLM) 추론 환경에서 이 기술을 실증했다고 밝혔다. 이 밖에 메모리 내부에서 연산을 수행하는 'Compute-using-DRAM', 연산 기능을 갖춘 맞춤형 HBM 여러 개를 연결한 'Custom HBM Array'도 소개했다.
제품 전시 구역에는 HBM4E와 HBM4, HBM3E, 서버용 D램 '256GB 3DS DDR5 RDIMM'과 '192GB 소캠2(SOCAMM2)', 액체냉각(DLC)을 지원하는 기업용 SSD(eSSD) 'PEB210 E1.S' 등이 나왔다. 발표 세션에서는 민영훈 SK하이닉스 AI 시스템 인프라 담당 TL이 MARS 아키텍처를 소개했다.
SK하이닉스 관계자는 "앞으로도 AI 컴퓨팅 성능을 높여갈 핵심 기술 파트너로서 고객과 함께 성장해 나가겠다"고 말했다.
유덕규 글로벌이코노믹 기자 udeok@g-enews.com

































