"엔비디아의 허락은 필요 없다" 전송의 시대를 끝낼 한국 메모리의 '지능 반란'

인류 역사상 가장 거대한 컴퓨팅 권력을 쥐고 있는 엔비디아가 최근 구리선을 뽑고 빛의 도로를 깔겠다며 전송의 혁명을 선포했다. 이는 데이터를 더 빨리 실어 나르겠다는 선언이자, 동시에 도로 위를 달리는 메모리들을 자신의 설계 규격 아래 영원히 가두겠다는 냉혹한 포석이다. 하지만 대한민국 반도체는 이미 그 도로 자체를 무용지물로 만들 비대칭 전술을 완성해가고 있다.

미국의 기술 전문지 와이어드 (Wired)가 3월 27일 "엔비디아의 고속도로는 필요 없다: 데이터 이동을 거부하는 한국의 메모리 반란"(Original: "No Need for Nvidia’s Highway: South Korea’s Memory Rebellion Refuses to Move Data")라는 제목의 아티클에서 전한 바에 의하면 삼성전자와 SK하이닉스는 데이터를 보내지 않고 메모리 안에서 직접 계산을 끝내는 지능형 메모리(PIM)를 통해 엔비디아의 GPU 권력을 뿌리째 뒤흔들 준비를 마쳤다.


컴퓨팅의 고질적인 병목 현상은 연산 장치(GPU)와 저장 장치(메모리) 사이를 오가는 데이터의 물리적 이동에서 발생한다. 빛을 이용한 전송 기술(실리콘 포토닉스)이 아무리 빨라진들, 수조 개의 데이터를 주고받는 과정에서 발생하는 에너지 소모와 시간 지연은 피할 수 없는 물리적 한계다. 한국이 제시한 PIM은 이 게임의 룰을 송두리째 바꾼다. 데이터를 연산 장치로 보내는 대신, 메모리 칩 내부에 작은 뇌(연산기)를 심어 그 자리에서 즉시 답을 내놓는 방식이다. 도로가 막히면 도로를 넓히는 게 아니라, 목적지에서 바로 물건을 생산해버리는 혁명적 발상이다.

엔비디아가 주도하는 광 반도체 전략의 핵심은 메모리를 자신의 GPU에 종속된 하위 부품으로 묶어두는 것이다. 하지만 메모리가 스스로 생각하기 시작하면 이야기는 달라진다. HBM 내부에 연산 기능이 탑재되는 순간, 거대하고 비싼 GPU의 역할은 급격히 축소된다. 복잡한 추론과 학습의 상당 부분을 메모리가 분담하게 되면서, 독점적 지위를 누리던 GPU의 위상은 평범한 보조 장치로 내려앉게 된다. 이것은 엔비디아가 설계한 빛의 가두리 양식장을 깨고 나와, 한국이 스스로 지능 정보 사회의 설계자가 되겠다는 주권 선언이다.


AI 데이터센터가 열 지옥으로 변하는 근본 원인은 칩 내부에서 수없이 반복되는 데이터의 왕복 운동에 있다. 전기가 흐르든 빛이 흐르든 이동은 에너지를 쓰고 열을 남긴다. PIM 기술은 데이터의 이동 거리 자체를 제로(0)에 가깝게 줄임으로써 데이터센터 전력 소모의 80퍼센트 이상을 절감할 수 있는 유일한 대안이다. 실리콘밸리의 빅테크들이 액체 냉각에 수조 원을 쏟아부으며 열을 식힐 때, 한국은 아예 열이 발생하지 않는 지능 구조를 제안하며 판을 뒤집고 있다. 에너지 효율이 곧 국방력이자 경제력인 시대에 PIM은 한국을 기후 안보의 주도권자로 격상시킨다.


과거의 메모리가 단순히 숫자를 기억하는 도서관이었다면, PIM은 사서가 직접 책을 읽고 요약본까지 전달하는 종합 지능 센터다. 이를 구현하기 위해서는 메모리 설계 기술뿐만 아니라, AI 알고리즘을 하드웨어에 최적화하는 고도의 소프트웨어 역량이 필수적이다. 한국 반도체 기업들이 구글, 메타와 손잡고 PIM 전용 소프트웨어 생태계를 구축하는 이유는 명확하다. 엔비디아의 소프트웨어 장벽인 쿠다(CUDA)를 우회하여, 전 세계 AI 개발자들이 한국의 지능형 메모리 위에서 직접 코딩하게 만들겠다는 야심이다.


지금까지 한국은 엔비디아의 주문에 맞춰 HBM을 납품하는 수동적 동반자였다. 하지만 연산 기능을 가진 PIM이 시장의 주류가 되면 갑을 관계는 역전된다. AI 서비스를 운영하는 빅테크 기업들에게 가장 중요한 것은 GPU의 개수가 아니라 전체 시스템의 연산 효율이다. PIM을 장악한 한국이 "우리 메모리를 쓰지 않으면 당신들의 AI는 작동하지 않거나 파산할 정도로 비싸질 것"이라고 경고할 수 있는 시대가 오고 있다. 이것은 지난 30년간 지켜온 제조 강국의 위상을 지능 주권국의 위상으로 치환하는 반도체 역사의 위대한 변곡점이다.

결국 반도체 패권의 종착지는 더 빠른 도로를 가진 자가 아니라, 목적지에서 지능을 직접 생산하는 자의 몫이다. 엔비디아가 빛의 속도로 도로를 넓힐 때, 한국은 그 도로가 필요 없는 지능의 요새를 구축하고 있다. 적층의 신화는 무덤이 아니라, 지능형 메모리라는 거대한 성벽을 쌓기 위한 견고한 주춧돌이었다. 우리는 지금 엔비디아의 허락 없이도 인류의 사고를 지탱하는 위대한 지능의 엔진이 한국에서 탄생하는 장면을 목격하고 있다.


이교관 글로벌이코노믹 기자 haedang@g-enews.com