정부 GPU, 절반이 '낮잠'…NIPA는 알고도 '경고 0건' 방치

전 세계적으로 인공지능(AI) 패권 경쟁이 격화되며 이른바 'GPU(그래픽처리장치) 대란'이 벌어지고 있다. 한국 정부가 막대한 예산을 들여 확보한 GPU 인프라의 활용률이 턱없이 저조한 것으로 드러났다. 특히 사용률이 20%에도 미치지 못하는 이른바 ‘개점휴업’ 상태의 과제가 수두룩함에도 불구하고, 관리·감독 책임을 진 정보통신산업진흥원(NIPA)은 자원 회수는커녕 최소한의 경고 조치조차 하지 않은 것으로 확인돼 논란이 예상된다.

18일 국회 과학기술정보방송통신위원회 소속 조국혁신당 김선민 의원이 정보통신산업진흥원(NIPA)으로부터 제출받은 '정부활용분 GPU 지원 및 배분 현황(2026년 9월 기준)' 자료에 따르면, 2025년 추가경정예산을 통해 확보된 정부활용분 GPU 1만 104장(B200 모델 7,848장, H200 모델 2,256장)의 전체 평균 사용률은 51.8%에 불과했다. 현재 이 막대한 컴퓨팅 자원은 산·학·연을 비롯해 국가 AI 프로젝트 등 총 215개 과제에 나뉘어 배분된 상태다.

가장 큰 문제는 배분된 자원을 사실상 방치하고 있는 과제들에 대한 정부의 관리 부실이다. 9월 기준으로 할당된 전체 시간 중 실제 연산 작업에 사용된 시간이 20% 미만인 극성 저활용 과제는 총 15개(산·학·연 과제 10개, 국가 AI 프로젝트 5개)에 달했다.

현행 산·학·연 대상 '첨단 GPU 활용 지원 사업' 공모 안내서와 '국가 AI 프로젝트' 협약서에는 이용 실적이 현저히 저조할 경우 1차 안내(경고)를 거쳐 2차로 GPU 자원을 강제 회수할 수 있다는 명시적인 제재 규정이 마련돼 있다. 그럼에도 NIPA는 지난 9월까지 이들 15개 과제에 대해 단 한 건의 '활용 미흡' 안내조차 하지 않은 것으로 드러났다. 회수 규정을 만들어 놓고도 행정 편의주의에 빠져 사실상 자원 낭비를 묵인했다는 비판을 피하기 어려운 대목이다.
이에 대해 NIPA 측은 해당 과제들에 대해 담당자 소명 및 전문가 검토를 거쳐 미흡 여부를 판단한 뒤, 김 의원실에 "10월에도 여전히 활용이 저조한 과제로 최종 판단될 경우 GPU 자원의 전부 또는 일부에 대한 본격적인 회수 절차를 진행할 계획"이라고 해명했다. 과기정통부와 NIPA는 그동안 주·월 단위로 클라우드 서비스 제공사업자(CSP)의 데이터를 바탕으로 점검을 해왔다고 밝혔으나, 실제 중도 해지나 회수 조치는 전무했던 상황이다.

수혜기관 유형 별 극심한 불균형과 비효율도 도마 위에 올랐다. 전체 1만104장 중 가장 많은 물량인 2832장(28.0%)을 배정받은 곳은 국가 부처(25개 부처, 52개 과제)였다. 하지만 이들의 사용률은 37.9%로 전 유형을 통틀어 압도적인 꼴찌를 기록했다. 앞서 진행된 공모 당시 69개 과제가 탈락의 고배를 마실 정도로 수요가 폭발적이었음에도, 정작 물량을 독식한 정부 부처들은 할당받은 자원을 40%도 쓰지 않고 썩히고 있는 셈이다.

반면, 불과 2개 과제에 2032장을 배정받은 대기업은 80.6%의 압도적인 사용률을 보였다. 이어 연구기관(61.2%)과 중소기업(56.5%), 스타트업(46.1%), 대학(42.1%) 순으로 나타났다. 자원이 절실한 민간 기업과 학계의 수요를 외면한 채, 보여주기식으로 정부 부처에 GPU를 선점할당한 것 아니냐는 비판이 제기된다.

김선민 의원은 "정부가 국가 AI 경쟁력을 명목으로 GPU를 몇 만 장 더 확보하겠다는 숫자 늘리기 경쟁에만 혈안이 된 사이, 정작 추경으로 힘들게 확보한 자원의 절반은 무용지물로 방치되고 있었다"고 지적했다. 그는 이어 "규정이 명백히 있음에도 사용률 20% 미만 과제에 안내조차 하지 않은 것은 명백한 직무유기이자 관리 부실"이라며 "가장 많은 GPU를 챙겨가고도 최저의 사용률을 기록한 정부 부처 과제부터 낱낱이 실태를 점검하고, 즉각 저활용 GPU를 회수해 당장 자원이 없어 연구 개발에 차질을 빚고 있는 스타트업과 연구자들에게 재배분하는 시스템을 신속히 가동해야 한다"고 촉구했다.


최정호 글로벌이코노믹 기자 junghochoi5591@g-enews.com