AI 투자 성과 확인 기업 76%…데이터 준비됐다는 6%뿐

인공지능(AI) 투자에서 성과를 확인했다고 답한 기업 비중이 2026년 3분기 조사에서 76%로 올라 기업의 AI 지출 확대를 뒷받침하는 응답이 다수로 굳어졌다.

던앤브래드스트리트는 지난달 28일(현지 시각) 이 76% 가운데 48%가 일부 영역에 그친 성과라고 밝혔고, 한국에서는 SK텔레콤 2분기 AI 데이터센터 매출이 92.5% 늘었다.


알파벳이 지난달 22일(현지 시각) 공개한 2026년 2분기 실적에서 구글 클라우드 매출은 248억 달러(약 34조9900억 원)로 집계됐다. 전년 동기보다 82% 늘었다. 영업이익은 88억 달러(약 12조4200억 원)로 3배 넘게 증가했다. 영업이익률은 35.6%다. 전망치가 아닌 실적치다.

순다르 피차이 알파벳 최고경영자는 제미나이 모델 응용프로그래밍인터페이스(API)가 분당 약 220억 개 토큰을 처리한다고 밝혔다. 직전 분기보다 37.5% 늘어난 규모다. 다만 토큰 처리량에는 무료 등급 사용분이 섞여 있다. 유료 수요를 보여주는 지표는 클라우드 매출 증가율과 영업이익률 쪽이다.

파브리치오 델라쿠아 하버드경영대학원 박사후연구원 등은 2023년 보스턴컨설팅그룹(BCG) 컨설턴트 758명을 사전 등록 실험에 참여시켰다. GPT-4를 쓴 집단은 AI 역량 경계 안 과제 18개를 수행했다. 처리량은 12.2% 늘었다. 완료 속도는 25.1% 빨라졌다. 경계 밖 관리 과제에서는 정답을 낼 확률이 AI를 쓰지 않은 집단보다 19% 낮았다.

반면 분석과 직관이 요구되는 정밀 관리 과제(경계 밖)에서는 AI의 환각과 무비판적 수용으로 인해 정답률이 AI 미사용 집단보다 19% 낮아지는 뚜렷한 한계(이른바 '하향식 평준화'와 'AI 과잉 신뢰 현상')를 보였다. 결정적인 이유는 AI의 성능 부족 때문만이 아니라 사람이 AI의 답변을 의심 없이 믿고 검증을 멈췄기 때문이다.

성과와 기대의 거리도 남아있다. 딜로이트는 2025년 8~9월 24개국 임원 3235명을 조사했다. 매출 증대를 달성한 기업은 20%였다. 향후 매출 성장을 기대한 기업은 74%였다. 이러한 딜로이트 조사에 이어 매킨지가 2025년 말 발표한 조사에서도 AI를 한 개 이상 업무에 정기 사용하는 기업은 88%에 이르렀으나, 전사 영업이익 영향을 확인한 기업은 39%로 내려앉으며 기대와 현실의 격차를 고스란히 보여주었다.


알파벳은 올해 자본지출 전망을 1950억~2050억 달러(약 275조~289조 원)로 올렸다. 종전 전망은 1800억~1900억 달러다. 이 흐름은 두 갈래로 한국에 닿는다. 메모리에서는 SK하이닉스 HBM과 기업용 SSD 발주로 이어진다. 인프라에서는 AI 데이터센터 가동률과 전력기기 수주로 연결된다. 이는 '선(先)인프라 투자, 후(後)수익 실현'이라는 원가 압박 구조를 정확히 보여준다.
비용이 먼저 오는 구조도 확인된다. 네이버는 지난 7일 2026년 2분기 영업이익 5203억 원을 공시했다. 전년 동기보다 0.2% 줄었다. 매출은 16.2% 늘었으나 AI 인프라 투자가 이익 증가를 상쇄했다.

반대 시나리오도 있다. CNBC는 6월 26일(현지 시각) 기업들의 토큰 지출 합리화 움직임을 전했다. AI 스타트업 린디는 트래픽 전량을 앤스로픽 클로드에서 딥시크로 옮겼다. 토큰 단가 하락이 물량 증가를 상쇄하면 메모리 수요 증가 폭이 자본지출 증가율을 밑돌 수 있다는 관측이 나온다.

킨드릴 '2025 준비 보고서'에서 고위 경영진과 의사결정권자 61%는 AI 수익률 입증 압박이 전년보다 커졌다고 답했다. 삼성SDS가 지난 3일 전재한 CIO 기고문에서 IDC는 세계 1000대 기업이 2027년까지 AI 인프라 비용을 30% 낮게 추정할 것으로 내다봤다.

이제 투자자가 볼 지점은 성과 응답 비율보다 응답의 질이다. 3분기 조사에서 '광범위하거나 강한 성과' 응답은 28%에 머물렀다. 4분기 조사에서 이 수치가 오르는지가 분수령이 된다.


김주원 글로벌이코노믹 기자 park@g-enews.com