구리 대신 빛으로 데이터 길 뚫는다…SK하이닉스, 네이처에 논문 게재

생성형 인공지능(AI) 시대를 이끌어온 고대역폭메모리(HBM)는 AI 가속기의 패키지 내 메모리 병목을 해결하며 성능 혁신을 주도했다.

하지만 수천 개의 그래픽처리장치(GPU)와 HBM이 엮인 초대형 클러스터가 등장하면서, 이제는 시스템 간 데이터 이동을 제한하는 ‘대역폭 장벽'(Bandwidth Wall)이 새로운 병목 현상으로 나타나고 있다.

SK하이닉스가 이같은 문제를 해결하고 차세대 AI 인프라 청사진을 그린 논문을 학술지 네이처 일렉트로닉스(Nature Electronics)에 게재했다고 20일 밝혔다.

논문 제목은 '고성능 컴퓨팅 및 인공지능을 위한 CPO 기술'(Co-packaged optics for high-performance computing and artificial intelligence)로 AI 및 고성능 컴퓨팅(HPC)을 위한 차세대 광 인터커넥트 기술의 발전 방향을 담았다.
이번 연구에는 SK하이닉스 홍승훈 팀장(AI Infra)과 이규상 버지니아대학교(UVA) 전기컴퓨터공학과 교수가 교신 저자로 참여했다. 또 일리노이대학교 어바나-샴페인(UIUC)을 비롯해 난양공과대학교(NTU), 매사추세츠공과대학교(MIT), 연세대학교 연구진이 공동으로 연구를 수행했다.

해당 논문은 단순한 신기술 소개에 그치지 않고, 메모리· 패키징·광 인터커넥트가 어떻게 융합하고 진화해야 하는지 종합적인 기술 로드맵을 체계화했다는 데 의의가 있다. 특히 SK하이닉스가 시스템 전체를 아우르는 차세대 AI 인프라의 청사진을 선제적으로 제시했다는 점에서 주목할 만하다.

초거대 AI 모델은 단일 칩이나 서버를 넘어, 랙과 포드 단위로 묶인 거대한 네트워크에서 학습된다. 이러한 구조에서는 프로세서와 메모리, 가속기 간은 물론 랙과 랙 사이의 데이터 이동 속도와 효율성이 전체 시스템 성능을 좌우한다.

실제로 연산 성능은 2년마다 약 3배씩 폭발적으로 늘어나는 반면, 대역폭은 1.4배 증가하는 데 그쳐 이른바 대역폭 장벽이 뚜렷해지고 있다. 데이터가 패키지를 벗어나 랙 사이를 이동할 때 쓰이는 기존 구리 기반 전기 연결은 거리가 멀어질수록 신호 감쇠와 전력 소모가 급증해 차세대 AI 데이터센터의 한계로 지목돼 왔다.

논문은 이러한 대역폭 장벽을 허물 핵심 기술로 CPO를 제시한다. 홍 팀장은 CPO에 대해 "칩과 칩이 긴 전기 배선 대신 빛으로 데이터를 주고받을 수 있도록 광 송수신기를 프로세서와 한 패키지 안에 넣는 기술"이라고 말했다.
광 엔진을 패키지 내부에 집적하는 CPO는 고속 전기 신호의 이동을 최소화하고 나머지 구간을 빛으로 연결한다. 이를 통해 칩·랙·포드 단위로 통신 범위를 넓히면서도 높은 대역폭 밀도와 에너지 효율, 그리고 전자기 간섭에 강한 신호 무결성 등을 유지할 수 있다.

장기적으로 CPO 기술의 발전 방향은 광 연결을 '메모리 인터페이스'까지 확장하는 것이다.

이 구조가 도입되면 여러 가속기가 거대한 메모리 풀을 공유할 수 있어, 시스템 수준의 데이터 이동을 더욱 유연하게 설계하고 AI 모델의 대형화에 기민하게 대응할 수 있게 된다.

이 교수는 "광 인터커넥트는 앞으로 AI 인프라를 구성하는 핵심 연결 기술로 자리 잡을 가능성이 높다"며 "관련 기술은 이미 실험실을 벗어나 산업화 초입에 들어섰다"고 진단했다.


박상휘 글로벌이코노믹 기자 shpark03@g-enews.com