IT기업들, GPU 대신 NPU로 전환…AI 실용성 높인다

정보통신(IT)기업들이 인공지능(AI) 개발과 사용에 이용되던 그래픽처리장치(GPU)를 신경망처리장치(NPU)로 전환하는 추세다. NPU는 연산 효율을 극대화하면서도 GPU보다 가격 경쟁력을 갖춘 것이 장점으로 꼽힌다. 다만 업계에서는 본격적인 상용화까지는 조금 시간이 걸릴 것이라는 관측이 나온다.

12일 업계에 따르면 SK텔레콤(이하 SKT)뿐만 아니라 삼성SDS와 LG CNS 등 AI를 개발하는 기업들이 GPU를 대신해 NPU 선점에 열을 올리는 동시에 관련된 서비스를 선보이고 있다. 구축을 위한 개발에서 추론으로 사업 구조가 변하면서 효율성을 높이기 위한 조치로 풀이된다.

GPU와 NPU의 가장 큰 차이는 학습과 추론이다. AI를 개발하는 초기에는 방대한 양의 데이터를 연산할 능력이 필요한데 이때는 GPU가 효율적이다. 하지만 최근에는 AI개발보다는 추론 능력이 중요해지면서 이에 맞춰진 NPU 선호도가 높아지는 것이다.

추론에도 GPU를 사용해도 되지만 바꾸는 이유는 비용적인 면도 크게 작용한다. 유회준 카이스트 전기전자공학부 석좌교수는 "NPU는 AI 사용할 때 GPU에서 필요 없는 기능을 제거한 연산처리장치"라며 "상대적으로 수급도 용이하고 전력도 훨씬 적게 들기 때문에 기업들이 NPU로 전환하는 것"이라고 설명했다.
실제로 GPU는 주로 엔비디아에서 공급했는데 공급이 수요를 따라가지 못하면서 가격이 천정부지로 치솟았다. 뿐만 아니라 GPU를 가동하기 위해서는 상당량의 전력이 필요한데 이에 대한 비용도 기업들 입장에서는 부담이었다. 이와 같은 상황에서 저전력에 특화됐고 필요한 기능만 있는 NPU의 수요가 높아진다는 것이다.

AI산업 활성화를 도모하는 정부도 NPU 산업 안착을 위해 '풀스택 AI 추론 인프라' 구축에 나섰다. 이어 국내 기업들도 NPU와 관련된 사업을 본격화했다.

먼저 SKT는 Arm, 리벨리온과 차세대 AI인프라 혁신을 위한 전략적 업무협약을 체결하면서 중앙처리장치(CPU)에 NPU를 더한 서비스를 선보인다. CPU가 시스템의 관제탑 역할을 담당하고 NPU가 AI 추론 연산을 전담하는 '이종 컴퓨팅' 구조 시스템을 갖췄다. 이를 통해 대규모 AI 데이터센터를 효율적으로 운영할 수 있게 됐다. 이번 협력으로 AI 데이터센터(DC) 사업 경쟁력을 한층 높일 계획이다.

삼성SDS는 퓨리오사AI가 개발한 2세대 NPU '레니게이드'를 오는 7월부터 자사 삼성클라우드플랫폼(SCP)에 NPU서비스(NPUaaS)형태로 제공하는 사업을 실시한다. 이는 국내 클라우드 기업이 토종 NPU를 구독형 서비스로 상용화하는 첫 사례다.

LG CNS는 퓨리오사AI와 NPU 기반 서비스 개발에 나섰다. 자체 개발한 기업용 에이전틱AI 플랫폼 '에이전틱웍스' 구동 인프라에 퓨리오사AI의 NPU를 적용하고 이에 대한 검증을 진행한다. 향후 NPU 기반 GPU서비스(GPUaaS) 성능 최적화 기술도 실증에 나설 계획이다.
포스코DX는 모빌린트와 손잡고 NPU 기반 AI전환(AX) 구현을 위한 업무협약을 체결했다. 포스코DX의 산업용 제어시스템에 모빌린트의 NPU를 적용해 AI 인프라 비용 절감과 동시에 현장에서 즉각적인 분석과 제어가 가능한 '인텔리전트 팩토리' 구현을 목표로 하고 있다.

대기업들이 선제적으로 NPU 사업을 진행하지만 완전히 GPU를 대체하기에는 상당한 시간이 소요될 것으로 전망된다. 유 교수는 "모델에 따라 다르지만 통상적으로 NPU가 GPU보다 2~3배 더 좋다"며 "다만 지금까지 갖춰진 AI시스템들이 GPU로 갖춰졌기 때문에 NPU로 모든 시스템을 교체하기에는 시간이 걸릴 것"이라고 분석했다.

IT업계 한 관계자는 "대기업들을 시작으로 NPU서비스가 갖춰지기 시작하면 다른 현장에서도 사용될 것 같다"며 "기본적인 추론 AI를 시작으로 AX까지 확대될 것"이라고 내다봤다.


이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com