방한 마친 젠슨 황, 'AI 팩토리' 화두…기존 AIDC와 차이점은

젠슨 황 엔비디아 최고경영자(CEO)가 국내에 방문해 다수의 기업들과 '인공지능(AI) 팩토리' 사업을 하겠다고 발표했다. AI 팩토리는 일반적인 무인공장을 일컫는 게 아니라 'AI 데이터센터'(DC) 사업을 말한다. 사업성을 놓고 기존 데이터센터보다 AIDC가 많은지에 대해 이목이 집중되고 있다.

14일 업계에 따르면 젠슨 황 CEO는 지난 5일부터 9일까지 국내에서 SK와 LG, 현대차, 두산, 네이버 등 기업 수장들과 만나 AI와 관련된 사업을 논의했다. 그 중에서도 공통적으로 진행하는 사업은 AI 팩토리다.

AI 팩토리는 본질적으로 기존 AIDC가 진화한 형태인데 가장 큰 차이는 운영 방식과 연산 효율에 있다. 기존의 일반적인 데이터센터가 표준 이더넷을 기반으로 데이터 저장과 다목적 앱 실행에 치중했다. 반면 AI 팩토리는 인피니밴드나 스펙트럼-X 등 고대역폭의 초저지연 양방향 네트워크를 통해 대규모 AI 모델 학습과 추론, 토큰을 대량 생산하고 이를 전송한다. 즉 엔비디아의 AI 팩토리는 AIDC의 상위모델로 토큰의 대량 생산과 빠른 전송이 가능하다는 장점이 있다.

다만 이 과정에서 랙(Rack)당 막대한 전력이 소모된다. 기존 데이터센터는 공랭식 위주로 설계돼 대규모 연산 시 전력 낭비와 병목 현상이 발생했다. 반면 AI 팩토리는 액체 냉각 방식과 통합 소프트웨어를 도입해 총 전력량은 늘어나더라도 '토큰당 생산 전력 비용'을 획기적으로 낮추어 생산 효율을 극대화한다. 젠슨 황 CEO는 이번 방문에서 다수의 기업들과 이와 같은 사업을 진행하겠다고 발표한 것이다. 이를 통해 국내 기업들은 토큰을 대량 생산하는 효율 좋은 AIDC를 확보하게 되는 것이다.
엔비디아는 AI 팩토리를 구축하려는 국내 기업에 그래픽처리장치(GPU)를 포함한 다양한 장비를 판매하며 기업들은 새로운 데이터센터 사업을 하거나 기존 사업을 강화하게 된다. 이 과정에서 엔비디아는 단순한 하드웨어 일회성 판매에 그치지 않고 운영에 필요한 통합 소프트웨어를 구독 형태로 묶어 제공하는 '일괄 공급(이하 턴키) 비즈니스 모델'을 취한다.

턴키 비즈니스 모델은 공급자가 기획부터 설계, 제조, 설치 및 운영 초기 세팅까지 전 과정을 일괄적으로 제공하는 것을 뜻한다. 이러한 턴키 방식은 자체 AI 운영 소프트웨어 구축 역량이 상대적으로 부족한 국내 기업들에게 진입 장벽을 낮춰주는 역할을 하며 엔비디아 입장에서는 안정적인 구독 수익을 창출하는 핵심 글로벌 비즈니스 모델이다.

한동수 카이스트 전기 및 전자공학부 교수는 "엔비디아는 AI 팩토리를 제공해주며, 누구나 손쉽게 운영할 수 있도록 환경을 제공하는 것"이라고 분석했다.

결국 AI 팩토리를 도입한 국내 기업들의 실질적인 수익화 여부가 핵심이다. 막대한 초기 투자 비용이 투입되는 하이엔드 인프라인 만큼 이를 상쇄할 만한 운영 효율성과 기업간 거래(B2B) 고객 수요를 안정적으로 확보할 수 있는지가 과제로 꼽힌다.

이에 대해 이성엽 고려대학교 기술경영전문대학원 교수는 기존 AIDC가 GPU나 데이터센터 공간을 빌려주는 임대형 사업 위주였다면 AI 팩토리는 개별 기업의 AI 비즈니스 프로세스에 보다 직접적으로 관여하는 구조라고 설명했다. 이 교수는 "최근 AI 특화 모델 도입을 원하는 기업들의 수요가 지속해서 늘고 있어 사업성은 충분할 것"이라고 내다봤다.
AI 업계에서는 이번 사업으로 AI 주권인 '소버린 AI'사업이 순항할 것이라는 전망이 나온다. AI 업계 한 관계자는 "정부와 공공기관이 추진하는 소버린 AI 구축에도 고성능 인프라가 필수적"이라며 "국내 기업들이 공공 AI 사업 수주 경쟁력을 높이기 위해 AI 팩토리 도입에 적극 나설 것"이라고 전망했다.

한편 엔비디아는 AI 팩토리 외에도 로봇과 같은 피지컬 AI 사업에 대한 협업 강화도 예고했다.


이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com