SKT, 엔비디아-리벨리온과 한국형 소버린 AI 인프라 구축 나서

SK텔레콤(이하 SKT)은 9일 서울 코엑스 '엔비디아 AI 데이 서울' 행사에서 엔비디아, 리벨리온과 한국형 소버린 인공지능(AI) 인프라 구축을 위한 그래픽 처리 장치(GPU)·신경망 처리 장치(NPU) 통합 시스템 개발 업무협약을 체결했다. 이를 통해 AI 데이터센터(AIDC)를 효율적으로 운영하는 시스템을 적용할 계획이다.

이번 협약을 통해 3사는 엔비디아의 NV링크 퓨전 기술을 활용해 리벨리온이 개발 중인 NPU '리벨 R200'을 엔비디아 플랫폼에 연결한다. 또 엔비디아의 서버 랙 표준 설계 규격인 MGX를 적용해 서버 랙 단위의 GPU·NPU 통합 시스템을 개발할 계획이다.

최근 AI 경쟁의 축이 모델 개발에서 서비스 운영으로 옮겨 가고 있다. 에이전틱 AI가 확산해 추론 요청이 급증하면서 AIDC에서의 처리 성능은 물론 전력 효율과 운영비용 경쟁력이 중요해졌다. 추론 과정은 크게 두 단계로 나뉜다. 사용자가 입력한 질문을 분석하는 '프리필' 단계는 계산량이 많아 GPU 같은 고성능 연산 칩이 유리하다. 이어 답변을 한 단어씩 순차적으로 만드는 '디코드' 단계는 계산보다 메모리에서 필요한 데이터를 빠르게 불러오는 능력이 중요하다.

3사는 이 두 단계를 서로 다른 반도체에 나눠 맡기는 '분리형 추론' 방식을 통합 시스템에 적용한다. 엔비디아 GPU는 질문을 분석하는 프리필 단계를, 리벨리온 NPU는 답변을 만들어 내는 디코드 단계를 맡아 처리 속도와 전력 효율을 높이는 것이 목표다.
SKT는 AIDC 구축·운영 경험을 바탕으로 통합 시스템을 AI DC에 도입해 성능과 안정성을 실증하고 실제 서비스에서의 활용 및 상용화 가능성을 검토한다. 나아가 독자 AI 모델과 ‘모두의 AI’ 같은 대국민 AI 서비스를 연결해, 인프라부터 모델·서비스까지 아우르는 풀스택 소버린 AI를 제공할 계획이다.

또 3사는 과학기술정보통신부의 소버린 AI 및 국산 AI 반도체 육성 정책에 맞춰 한국형 소버린 AI 인프라 구축 사례를 확보하고, 국내 공공·민간 부문 전반의 소버린 AI 서비스 기반을 마련한다는 방침이다.

정석근 SKT 최고기술책임자(CTO) 겸 AI 사내 독립 기업(CIC)장은 “이번 협력은 엔비디아 GPU와 리벨리온 NPU의 강점을 결합해 추론 성능과 전력 효율을 높일 수 있는 한국형 소버린 AI 인프라의 가능성을 검증하는 데 의미가 있다”며 “SKT는 AI DC 구축·운영 경험과 독자 AI 모델 A.X K2, 모두의 AI 같은 대국민 서비스 역량을 바탕으로 풀스택 소버린 AI 경쟁력을 강화하고, 공공과 민간이 실제로 활용할 수 있는 소버린 AI 인프라 생태계를 만들어 가겠다”고 말했다.

아쉬시 카란디카르(Ashish Karandikar) 엔비디아 NVLink Fusion 부문 부사장은 “한국은 세계적인 반도체 기술력과 우수한 인재를 바탕으로 소버린 AI를 선도할 잠재력을 갖추고 있다”며 “NVLink Fusion은 한국의 ASIC*을 엔비디아의 AI 팩토리 플랫폼과 결합해 고성능 AI 인프라를 구현할 수 있도록 지원한다. 엔비디아는 과기정통부, SKT, 리벨리온과의 협력을 통해 한국의 소버린 AI 역량을 강화하고, 차세대 AI 컴퓨팅 생태계 구축에 기여하겠다”고 밝혔다.※ *ASIC(Application-Specific Integrated Circuit): 특정 용도에 맞춰 설계한 주문형 반도체

박성현 리벨리온 대표는 “오늘의 발표는 한국의 AI 반도체와 모델을 글로벌 기술과 결합해 대한민국의 소버린 AI 생태계를 확장하는 중요한 전환점”이라며 “리벨리온은 대한민국을 대표하는 AI 반도체 기업으로 성장하며 입증한 독자적인 기술력을 바탕으로 엔비디아, SKT와 차세대 AI 인프라를 함께 설계하고, 한국이 만든 기술이 세계의 AI를 움직이는 핵심 축으로 성장하도록 하겠다”고 말했다.

이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com