오케스트로 "GPU물량이 AI 인프라 경쟁력과 직결되지 않아"

오케스트로 그룹은 단순한 그래픽 처리 장치(GPU) 물량이 기업의 인공지능(AI) 인프라 경쟁력과 직결되지 않는다는 것을 입증했다.

오케스트로 그룹이 지난 7월 28일 서울 코엑스에서 개최된 'OPUS 2026'에 참석해 기업과 공공기관, 정보기술(IT) 종사자 1703명을 대상으로 AI 인프라에 대한 설문조사를 진행했다. 이 행사에는 공공기관과 금융사, 제조·통신 대기업, IT 서비스 기업 등의 관계자 2000여 명이 참석한 것으로 알려졌다.

설문조사 데이터를 분석한 결과 기업이나 기관이 AI 추론 플랫폼을 선택할 때는 추론 성능과 응답 속도(20.2%)가 가장 우선시 됐으며 뒤이어 GPU 활용률과 비용 효율(19.2%), 기존 인프라 및 클라우드 환경과의 연계성(16.7%)을 중요하게 고려하는 것으로 나타났다.

이는 AI 인프라의 경쟁이 하드웨어 확보에서 소프트웨어 기반의 운영 효율화로 이동하는 형태라고 오케스트로 그룹은 분석했다. 기업과 공공기관은 보유 자원의 활용 효율과 추론 성능을 높이고 비용과 운영 안정성을 함께 관리하는 것을 주요 과제로 인식하고 있다는 것이 업계의 평가다.
오케스트로는 이번 행사에서 확인한 현장 수요와 조사 결과를 바탕으로 기업과 공공기관의 AI 인프라 운영 과제에 대응해 나갈 계획이다.

김민준 오케스트로 그룹 의장은 “OPUS 2026은 금융·제조·IT 등 다양한 산업의 기업과 공공기관이 AI 인프라를 운영하며 겪는 과제와 시장의 변화를 직접 확인한 자리였다”며 “고객과 현장의 목소리를 바탕으로 한정된 자원에서도 AI 서비스의 응답 성능과 처리 효율을 높일 수 있는 해법을 지속적으로 제시해 나가겠다”고 말했다.

한편 오케스트로는 AI 추론 운영 플랫폼 '콘체르토 AI'룰 운영하고 있다. 콘체르토 AI는 분산 서빙 기반의 추론 최적화와 실시간 자원 배분을 통해 응답 지연을 줄이고 보유한 GPU 자원의 활용 효율을 높인다.




이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com