엔비디아, 그록3 LPX 양산 돌입 추론 시장 속도전 가속

엔비디아가 2026년 8월 24일(현지시각) 에이전트 인공지능(AI) 추론 가속기 '그록 3 LPX(Groq 3 LPX)'의 본격 양산에 돌입해 초당 3400개 토큰 처리 성능을 확보했다. IT 전문 매체 Wccftech는 이날 엔비디아가 학술행사 핫칩스 2026을 통해 베라 중앙처리장치(CPU)와 베라 루빈 플랫폼 발표에 이어 해당 칩 생산을 공식화했다고 보도했다.

거대언어모델 연산 병목이 학습에서 실시간 추론 속도로 이동하면서 한국 메모리와 패키징 가치사슬의 수요 구조에도 직접적인 변화가 예상된다.


엔비디아가 핫칩스 2026에서 차세대 AI 추론 가속기 그록 3 LPX 랙의 본격 생산을 발표했다. 그록 3 LPX는 베라 루빈(Vera Rubin) 플랫폼의 연산 능력을 보완하는 확장 하드웨어다. 이 장치는 반응 속도가 핵심인 에이전트 AI 작업 처리에 최적화된 구조를 갖췄다.
에이전트 시스템은 수백에서 수천 단계의 자율 추론 과정을 거치며 대규모 토큰을 생성한다. 엔비디아는 베라 루빈 그래픽처리장치(GPU)로 대규모 문맥(Context)을 처리하고, 그록 3 LPX로 지연 시간에 민감한 디코드 작업을 가속하는 이원화 체계를 구축했다.

젠슨 황 엔비디아 최고경영자는 추론이 AI 시장의 핵심 성장 동력이라고 설명했다. 황 최고경영자는 베라 루빈과 LPX의 결합을 통해 초고속 토큰 생성을 구현하고 데이터센터의 연산 처리량과 효율을 높이겠다고 강조했다.


인공지능 성능 분석 기관 아티피셜 애널리시스(Artificial Analysis)의 측정 결과, 베라 루빈 NVL72와 그록 3 LPX 조합은 오픈 모델 제마 4 31B(Gemma 4 31B) 환경에서 초당 3400개 토큰(TPS)을 생성했다. 이번 시험은 10만 개 토큰 크기의 컨텍스트 창 조건에서 진행됐다.

엔비디아는 이 아키텍처를 통해 복잡한 코딩과 추론 작업을 단 몇 분 만에 마칠 수 있다고 설명했다. 가장 근접한 대체 플랫폼과 비교하면 응답 속도를 최대 4배 수준까지 단축할 수 있는 성능이다.

클라우드 인프라 시장에서는 AI 클라우드 제공업체 네비우스(Nebius)가 토큰 팩토리 서비스에 그록 3 LPX를 선제 도입하기로 결정했다. 다닐라 슈탄 네비우스 최고기술책임자는 개발자가 기존 응용프로그램 인터페이스(API)를 유지한 상태에서 생성 단계의 대기 시간을 최소화할 수 있다고 밝혔다.

엔비디아가 제시한 연산 분업화 아키텍처는 고대역폭 메모리(HBM)와 저지연 온칩 메모리가 각기 다른 연산 단계에 배치되는 구조를 갖는다. 대규모 문맥 처리를 담당하는 베라 루빈 메인 GPU에는 HBM이 탑재되는 반면, 지연 시간에 민감한 디코드를 전담하는 LPX 가속기는 저지연 특화 메모리를 활용한다.

이러한 구조 변화는 한국 메모리 산업의 공급 경로에도 직접 닿아 있다. SK하이닉스와 삼성전자는 베라 루빈 플랫폼의 핵심 연산 장치에 들어가는 HBM 공급망에 연결되어 있다. 디코드 전용 가속기 도입이 늘어날 경우 메인 GPU용 HBM 수요와 함께 이종 칩 간 신호 지연을 줄이는 첨단 2.5D 패키징 공정 대응 여부가 공급망 내 변수로 작용한다.

다만 엔비디아와 국내 메모리 제조사 간 신형 가속기 분업화에 따른 단일 품목별 세부 계약 규모는 공식 공개되지 않았다. 복합 랙 구성에 따른 전력 소모와 시스템 도입 비용 대비 토큰 생성 효율이 실제 데이터센터 운영에서 검증되는지 여부가 향후 인프라 확산의 핵심 확인 요소다.


김주원 글로벌이코노믹 기자 park@g-enews.com