엔비디아 NTC 공개… VRAM 85% 절감 ‘AI 압축’으로 GPU 판도 바뀐다

게이머들에게 '비디오 메모리(VRAM) 부족'은 최신 고사양 게임을 즐기기 위해 수백만 원짜리 그래픽 카드를 강요받는 물리적 장벽이었다. 하지만 엔비디아가 인공지능(AI)을 통해 하드웨어의 한계를 소프트웨어로 정면 돌파하는 파괴적 혁신을 선보였다.

톰스하드웨어(Tom's Hardware)는 지난 5일(현지시간) 보도를 통해 엔비디아가 GTC(GPU Technology Conference)에서 GPU 메모리 사용량을 최대 85%까지 절감하면서도 화질 저하가 전혀 없는 '뉴럴 텍스처 압축(NTC, Neural Texture Compression)' 기술을 공개했다고 전했다. 이번 혁신은 단순히 화면을 키워주는 업스케일링(DLSS) 단계를 넘어, 그래픽 데이터의 압축과 렌더링 구조 자체를 AI 중심으로 재편하겠다는 엔비디아의 차세대 전략을 극명하게 보여준다.


게임이 실사에 가까워질수록 그래픽 카드가 처리해야 할 텍스처 데이터는 기하급수적으로 늘어난다. 이는 VRAM 부족과 게임 설치 용량 비대화라는 고질적인 병목 현상을 야기했다. 엔비디아의 NTC 기술은 기존의 '블록 기반 압축(BC)' 방식 대신 초소형 신경망을 활용해 데이터를 실시간으로 압축·해제하며 이 문제를 해결한다.

엔비디아가 공개한 '투스카니 빌라(Tuscan Villa)' 시연 결과에 따르면, 기존 방식으로 6.5GB의 VRAM을 점유하던 장면이 NTC 적용 시 단 970MB로 줄어들었다. 화질은 육안으로 원본과 구별이 불가능한 수준을 유지했다. 비행 헬멧 모델링 실험에서는 압축되지 않은 272MB 데이터를 11.37MB까지 줄여, 기존 압축 방식보다 8배 이상 높은 효율을 증명했다.
이는 DLSS가 '적게 그린 뒤 AI로 키우는 기술'이었다면, NTC는 '애초에 그려야 할 데이터 자체를 AI로 줄이는 기술'이라는 점에서 그래픽 렌더링의 근본적 패러다임 전환을 의미한다. 엔비디아는 시연에서 육안 기준으로 원본과 구분이 어려운 수준을 보였으며, 향후 PSNR·SSIM 등 정량적 품질 지표 검증이 상용화의 핵심 기준이 될 전망이다.


엔비디아는 텍스처 압축을 넘어 사물의 질감을 AI가 판단하는 '뉴럴 머티리얼(Neural Materials)' 기술도 함께 제시했다. 기존에는 빛이 물체 표면에 반사되는 복잡한 물리 법칙(BRDF)을 GPU가 매 순간 계산해야 했으나, 이제는 학습된 신경망이 빛의 각도에 따른 결과값을 즉각 출력한다.

그 결과 1080p 해상도에서 렌더링 속도가 최대 7.7배까지 향상됐다. 핵심은 이 모든 과정이 GPU 내 AI 전용 엔진인 '텐서 코어(Tensor Core)'에서 독립적으로 처리된다는 점이다. 그래픽 연산을 담당하는 기본 하드웨어 자원을 소모하지 않기에 게임 성능 전반에 부담을 주지 않는다.

다만, 업계 일각에서는 텍스처별 사전 학습 과정에 따른 개발 시간 증가와 실시간 연산 가속 시 발생할 수 있는 미세한 지연 시간(Latency) 등을 향후 해결해야 할 과제로 지목하고 있다. 특히 텍스처 단위 학습을 요구하는 구조는 게임 개발 파이프라인을 근본적으로 바꿔야 한다는 점에서 초기 도입 장벽으로 작용할 수 있다.”

이 기술은 엔비디아의 독주를 넘어 산업 표준으로 급부상하고 있다. 게임을 넘어 모바일, 클라우드 스트리밍, XR(확장현실)까지 확산되며 ‘저용량·고품질 그래픽’이라는 새로운 산업 표준을 형성할 가능성이 있다.

마이크로소프트(MS)는 이미 다이렉트X(DirectX) 표준에 '코퍼레이티브 벡터(Cooperative Vectors)'라는 이름으로 이 기술을 포함했으며, 인텔과 AMD 역시 유사한 기술 확보에 사활을 걸고 있다.

향후 경쟁은 단순한 업스케일링(DLSS·FSR)을 넘어, 텍스처 데이터 자체를 줄이는 AI 압축 기술을 중심으로 엔비디아, AMD, 인텔 간 새로운 격전이 펼쳐질 가능성이 크다.

시장 참여자들 사이에서는 이번 변화가 GPU 시장의 경쟁 축을 '메모리 용량'에서 'AI 처리 효율'로 이동시키는 변곡점이 될 것이라는 해석이 우세하다. VRAM 용량이 적은 보급형 그래픽 카드나 모바일 기기에서도 고사양 게임을 구동할 수 있는 길이 열리기 때문이다.

미래의 그래픽 경쟁력은 하드웨어의 물리적 크기가 아니라, 얼마나 적은 데이터로 현실에 가까운 가상 세계를 구현하느냐는 'AI 알고리즘' 싸움이 될 전망이다.


이제 소비자들은 그래픽 카드를 선택할 때 단순히 '비디오 메모리(VRAM)가 몇 기가바이트(GB)인가'라는 수치에만 매몰될 필요가 없어졌다. 엔비디아가 선보인 '뉴럴 텍스처 압축(NTC)' 기술의 핵심은 인공지능(AI)이 데이터를 획기적으로 압축해, 그동안 고가 장비의 전유물이었던 초고화질 게임을 저사양 기기에서도 매끄럽게 구동할 수 있도록 만드는 데 있기 때문이다.

향후 시장을 바라보는 관전 포인트는 크게 세 가지다. 우선 차세대 GPU 출시 시 'VRAM 용량' 자체보다 AI 연산을 담당하는 '가속 성능' 수치가 실제 게임 퍼포먼스를 결정하는 척도가 될 전망이다. 또한, 언리얼 엔진 5와 같은 주류 게임 개발 도구(엔진)에 이 기술이 얼마나 빠르게 통합되느냐가 상용화의 관건이다. 마지막으로 마이크로소프트의 다이렉트X(DirectX) 표준 적용 범위가 확대된다면, 특정 제조사를 넘어 산업 전반의 그래픽 상향 평준화가 가속화될 것으로 보인다.

그래픽 카드의 미래는 하드웨어의 물리적 크기가 아니라, 적은 자원으로 최상의 현실감을 뽑아내는 'AI 처리 효율'에 달려 있다는 것이 업계 전문가들의 공통된 분석이다.


김주원 글로벌이코노믹 기자 park@g-enews.com