[초점] 엔비디아·그록 제휴가 보여준 AI 다음 격전지…‘추론’이 승부 가른다

인공지능(AI) 산업의 경쟁 축이 모델 학습에서 ‘추론(inference)’으로 빠르게 이동하고 있다는 분석이 나왔다.

이미 학습된 AI 모델을 실제 서비스에 적용해 결과를 만들어내는 단계에서 비용과 속도를 누가 더 효율적으로 낮추느냐가 향후 승패를 가를 핵심 요소로 부상하고 있다는 것이다.

악시오스는 엔비디아와 AI 반도체 스타트업 그록(Groq)이 최근 체결한 비독점적 기술 라이선스 계약이 이 같은 흐름을 상징적으로 보여준다고 29일(현지 시각) 보도했다. 양사는 사전 학습된 대규모 언어 모델을 더 빠르고 저렴하게 실행하기 위한 추론 기술 협력에 지난주 합의했다.

악시오스에 따르면 이번 계약은 엔비디아가 주도해온 AI 학습용 반도체 시장과 달리 아직 확실한 강자가 없는 추론 영역에서 주도권을 확보하려는 전략으로 해석된다. 악시오스는 “현재 엔비디아 칩이 AI 학습의 상당 부분을 담당하고 있지만 추론 단계는 여전히 병목 구간”이라며 이같이 전했다.

AI 모델은 크게 학습과 추론 두 단계로 작동한다. 학습 단계에서는 방대한 텍스트와 이미지, 영상 데이터를 흡수해 내부 지식을 쌓고 이후 추론 단계에서 처음 접하는 데이터의 패턴을 인식해 질문에 답하거나 결과를 생성한다.

악시오스는 이를 ‘시험공부와 실제 시험을 치르는 과정’에 비유했다. 특히 추론은 AI 모델이 연구실을 벗어나 실제 수익을 창출하는 단계로, 고비용 학습 과정을 감안하면 저렴하고 효율적인 추론 기술 확보가 필수라는 설명이다.

그록의 언어처리장치(LPU)는 이 추론 단계에 특화된 반도체로 실시간 챗봇 질의 처리에 강점을 갖고 있다. 이 때문에 이번 제휴가 엔비디아의 AI 경쟁력을 한층 확장시킬 수 있다는 평가가 나온다.


그록은 2016년 조너선 로스가 설립한 회사로 일론 머스크가 운영하는 AI 스타트업 xAI의 챗봇 ‘그록(Grok)’과는 관련이 없다. 악시오스는 로스와 그록의 서니 마드라 사장 등 핵심 인력이 엔비디아에 합류할 예정이라고 전했다. 다만 회사는 독립적으로 운영된다.
이 같은 구조에 대해 월가에서는 사실상 인수합병과 유사한 ‘어콰이하이어(acquihire)’ 성격이라는 분석이 나온다. 어콰이하이어는 회사를 사는 목적이 사업이나 제품이 아니라 ‘사람(인재)’인 인수 방식을 뜻한다.

CNBC에 따르면 스테이시 래스건 번스타인리서치 애널리스트는 고객 메모에서 “경쟁이 유지되는 것처럼 보이게 하는 계약 구조”라고 평가했다.

이런 방식은 반독점 규제 부담을 낮추면서도 핵심 인재와 기술을 확보할 수 있는 수단으로 자주 활용돼 왔다. 마이크로소프트가 딥마인드 공동 창업자인 무스타파 술레이만을 영입했고, 구글이 트랜스포머 공동 발명자인 노엄 셰이저를 다시 데려온 사례가 대표적이다. 로스 역시 과거 구글의 텐서처리장치(TPU)를 설계한 인물이다.


악시오스는 “AI의 미래는 기업들이 이미 구축한 모델을 실제로 감당 가능한 비용으로 배포할 수 있느냐에 달려 있다”고 진단했다. 값싸고 효율적인 추론 기술이 확보될 경우 기업용 AI 도입이 늘고, 이는 다시 학습 수요 증가와 엔비디아의 학습용 반도체 수요 확대로 이어질 수 있다는 설명이다.

최근 투자자들이 추론 기술 스타트업에 자금을 대거 투입하는 것도 같은 맥락으로 풀이된다. AI가 실험 단계를 넘어 일상적 활용으로 확산되기 위해서는 결국 추론 비용과 속도가 핵심 변수로 떠오르고 있다는 분석이다.


김현철 글로벌이코노믹 기자 rock@g-enews.com