엔비디아, 맞춤형 NVHBM 공개…대역폭 30% 늘리고 다이 확보

엔비디아가 연산 칩의 메모리 제어기를 베이스 다이 안으로 옮겨 표준 HBM4E 대비 대역폭을 최대 30% 높인 맞춤형 메모리 규격 'NVHBM'을 공개했다.

미국 IT 전문 매체 Wccftech는 지난 26일(현지시각) 엔비디아가 아마존웹서비스(AWS)의 반도체 설계 조직인 안나푸르나 랩스와 협력해 NV링크 퓨전 생태계를 확장하고 복수 공급사용 표준 규격을 도입한다고 보도했다. 매개변수가 조 단위로 늘어난 인공지능 모델로 메모리 병목이 심화하는 가운데, 삼성전자와 SK하이닉스는 맞춤형 베이스 다이 제작 협력으로 차세대 메모리 주도권 경쟁에 대응한다.


인공지능 모델 크기가 급격히 커지면서 가속기 연산 성능보다 데이터 전송 통로가 시스템 전체 효율을 좌우하는 현상이 뚜렷해졌다. 엔비디아는 이 문제를 풀기 위해 메인 연산 장치(XPU)에 두던 메모리 컨트롤러를 고대역폭메모리(HBM) 자체의 베이스 다이 내부로 통합하는 설계를 내놓았다.
이번 규격은 NV링크 퓨전 기술의 연장선으로, 미래형 인공지능 연산 작업에서 메모리 전송 효율을 극대화하는 맞춤형 구조다.

안나푸르나 랩스는 이 기술을 가속기에 결합하기 위해 엔비디아와 협력 관계를 맺었다. 나페아 브샤라 안나푸르나 랩스 부사장은 "NVHBM은 고대역폭메모리 성능과 효율을 끌어올리는 새로운 구조적 접근법"이라며 "향후 AWS 인프라 설계에 기여할 협력을 기대한다"고 밝혔다.

차세대 AWS 가속기인 트레이니움4부터 NV링크 퓨전을 적용해 엔비디아 그래픽처리장치(GPU)와 아마존 칩을 공통 랙 스케일 구조로 연결할 계획이다.


NVHBM 구조는 물리 계층(PHY)과 인터페이스 연결 배선을 줄여 전력 소비와 실리콘 면적 효율을 높인다. 엔비디아 공개 자료에 따르면 표준 JEDEC HBM4E 규격과 비교했을 때 NVHBM 도입으로 얻는 핵심 성능과 물리 구조 수치는 뚜렷한 개선 폭을 보인다.

메모리 대역폭은 표준 HBM4E 대비 최대 30% 향상되고 HBM 자체 전력 소비는 최대 15% 줄어든다. 메모리 컨트롤러를 덜어낸 메인 연산 칩은 다이 면적을 최대 25% 추가 확보해 연산 장치를 더 얹을 수 있다.
PHY와 지원 면적은 최대 67% 감소하며, 좁아진 인터페이스 덕분에 인터포저 배선이 단순해져 전체 레이아웃에서 실제 쓸 수 있는 실리콘 면적은 최대 80% 늘어난다.


Wccftech는 삼성전자와 SK하이닉스, 마이크론 등 주요 메모리 3사 역시 미래 제품의 베이스 다이에 연산 및 메모리 컨트롤러를 내장하는 설계를 구체화하고 있다고 보도했다. 이에 따라 엔비디아의 맞춤형 베이스 다이 규격 제시는 한국 메모리 공급망의 제조 공정 분담 구조에 직접적인 영향을 미칠 것으로 분석된다.

기존 D램 공정 중심이던 베이스 다이 제작을 첨단 파운드리 로직 공정과 연계해 고객사 맞춤형 설계 자산을 통합해야 하기 때문이다.

반면 맞춤형 다이 제작에 따른 공정 난도 상승과 단가 부담은 공급망 확산의 변수로 지적된다. 표준 JEDEC HBM4E 규격이 비용 효율을 앞세워 범용 시장에서 입지를 지킬 경우, 맞춤형 NVHBM 채택은 고성능 제품군에 한정될 수 있다. 개별 맞춤형 다이 생산 단가는 공개되지 않았다.

엔비디아는 2028년 출시 예정인 파인만 GPU에 맞춤형 NVHBM을 처음 채택할 것으로 Wccftech는 예상했다. 복수 메모리 제조사가 참여하는 표준화 작업이 순조롭게 안착하는지와 차세대 가속기 양산 수율이 향후 시장 안착을 가늠할 핵심 관전 포인트로 꼽힌다.


김주원 글로벌이코노믹 기자 park@g-enews.com