"국산 칩으로 바꾸면 개발비 50% 폭증"… 中 AI 개발사, 여전히 엔비디아 칩으로 훈련

중국 정부가 첨단 반도체 자급자족 정책을 강하게 추진하고 있음에도 불구하고, 중국 내 주요 인공지능(AI) 대형언어모델(LLM) 개발사들은 여전히 엔비디아(Nvidia)의 반도체 칩을 기반으로 최첨단 모델을 훈련시키고 있는 것으로 나타났다.

화웨이 등 현지 반도체 기업들의 기술 진일보에도 불구하고, 엔비디아 소프트웨어 생태계에서 탈피하는 데 드는 막대한 전환 비용과 엔지니어링 병목 현상이 주요 원인으로 지적된다.

8월 10일(현지시각) 홍콩 사우스차이나모닝포스트(SCMP) 보도에 따르면, 중국의 주요 AI 연구소와 기업 개발자들은 최신 프런티어 모델의 훈련 과정에서 여전히 엔비디아 하드웨어를 표준으로 사용하고 있다고 입을 모았다.

전문가들이 꼽는 가장 결정적인 국산화 장애물은 반도체 하드웨어 자체보다 소프트웨어 생태계의 격차에 있다. 엔비디아의 병렬 컴퓨팅 플랫폼인 쿠다(CUDA)는 수년간 전 세계 AI 연구원과 개발자들의 업계 표준으로 자리 잡았다.

반면 화웨이의 독자 컴퓨팅 아키텍처인 CANN(신경망 컴퓨팅 아키텍처)으로 개발 환경을 바꿀 경우, 기존에 구축한 엔비디아용 훈련 파이프라인과 코드를 전부 새로 작성하고 최적화해야 한다.

상하이 소재 주요 대학 연구소의 AI 개발 연구원 제임스 왕은 SCMP와의 인터뷰에서 "기존에 구축된 학습 파이프라인이 전적으로 쿠다(CUDA)에 의존하고 있어 화웨이 어센드(Ascend) 칩에서는 직접 실행되지 않는다"며 "기존 워크플로우를 화웨이 칩으로 이전할 경우 프로젝트에 투입되는 시간과 비용이 최소 50% 이상 증가한다"고 분석했다.

모델 개방성에 따른 전환 격차… 프런티어 모델 훈련은 엔비디아 의존 지속


오픈소스 모델(DeepSeek 등)은 기존 커뮤니티의 기술 지원을 활용할 수 있어, 화웨이 어센드 칩으로의 전환에 약 2~3명의 엔지니어가 한 달 정도 추가 작업을 수행하면 가능하다.
소스 코드가 비공개된 독자 모델의 경우, 약 10명의 엔지니어 팀이 붙더라도 최소 6개월 이상의 고난도 재작성 작업이 요구된다.

실제로 미 매체 디 인포메이션(The Information) 등의 보도에 따르면, 중국의 대표적 AI 스타트업 문샷 AI(Moonshot AI)의 최신 모델 'Kimi K3' 역시 엔비디아의 최신 블랙웰(Blackwell) 프로세서를 포함한 엔비디아 컴퓨팅 클러스터에서 훈련된 것으로 전해졌다.


다만 AI 개발 수명주기 중 상대적으로 자원 소모가 적고 구조가 간단한 '추론(Inference)' 단계에서는 국산화가 가시적인 성과를 내고 있다. 딥시크-V4(DeepSeek-V4)나 Kimi K3 등 주요 AI 서비스의 실제 운용 및 추론 작업은 화웨이의 클라우드 매트릭스(CloudMatrix)나 알리바바의 클라우드 플랫폼 등 중국 국산 인프라에 성공적으로 이식되어 구동 중이다.

아울러 일부 빅테크를 중심으로 훈련 단계부터 국산 칩을 적용하려는 시도도 늘고 있다. 지난 6월 중국 생활밀착형 플랫폼 메이투안(Meituan)은 1조 6,000억 파라미터 규모의 대형 모델 '롱캣-2.0(LongCat-2.0)'을 공개하며, 공급업체명을 명시하지는 않았으나 5만 개 규모의 순수 국산 컴퓨팅 파워 클러스터에서 모델을 완전히 학습시켰다고 밝히기도 했다.

중국 AI 업계의 높은 엔비디아 전환 비용과 독자 생태계 구축 진통은, 향후 ‘중국 빅테크 기업들의 소프트웨어 변환(CUDA-to-CANN) 기술 확보 총력전’과 더불어 ‘미국의 대중국 반도체 통제 속 중국산 AI 모델의 성장 속도 변수’로 작용할 전망이다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com