AI 반도체 확보 전쟁에 실리콘밸리 지각변동…적과 손잡고 인재도 이탈

인공지능(AI) 산업의 핵심 자원인 컴퓨팅 파워를 확보하기 위한 경쟁이 격화하면서 미국 실리콘밸리의 기업 간 경쟁 구도와 내부 조직 운영 방식까지 바뀌고 있다.

AI 기업들이 막대한 자금을 확보하고도 연산에 필요한 반도체와 데이터센터를 제때 구하지 못하면서 경쟁사와 손을 잡거나 최고경영진이 직접 자원 확보 협상에 나서는 사례가 잇따르고 있다. 컴퓨팅 자원 부족으로 핵심 연구인력이 회사를 떠나고 스타트업들이 생존 위기에 몰리는 현상도 나타나고 있다.

월스트리트저널(WSJ)은 AI 컴퓨팅 자원 확보 경쟁이 실리콘밸리의 권력관계와 기업 간 협력 구조를 뒤흔들고 있다고 10일(현지시각) 보도했다.

AI 모델의 개발과 운영에 필요한 연산 자원이 산업 성장 속도를 따라가지 못하면서 자금이나 기술력 못지않게 실제 이용할 수 있는 컴퓨팅 용량이 기업 경쟁력을 좌우하는 핵심 요소로 떠올랐다는 것이다.
◇구글 핵심 연구원 오픈AI 이직…연산 자원 배분 갈등

WSJ에 따르면 컴퓨팅 자원 부족은 세계 최대 AI 기업 가운데 하나인 구글 내부에서도 갈등을 일으키고 있다.

구글은 지난 2024년 AI 분야의 선구적 연구자인 노엄 샤지어를 다시 영입하기 위해 27억달러(약 3조6300억원)를 지불했다.

샤지어는 오랫동안 구글에서 근무하다 회사를 떠나 창업했으며 복귀한 뒤 구글의 핵심 AI 기술인 제미나이 개발 등 첨단 연구에 참여했다.

그러나 막대한 비용을 들여 영입한 연구자조차 원하는 컴퓨팅 자원을 충분히 확보하지 못했다.
WSJ에 따르면 샤지어는 복귀한 지 2년도 지나지 않아 자신의 연구팀에 배정됐던 컴퓨팅 자원이 다른 프로젝트를 위해 삭감됐다는 내용의 메시지를 보냈다.

그는 이후 경쟁사인 오픈AI로 이직했다.

구글 내부에서는 제한된 컴퓨팅 자원을 어떤 연구에 우선 배정할 것인지를 놓고 연구진 사이에 갈등이 벌어지고 있다.

공동창업자인 세르게이 브린은 공식적인 자원 배분 절차를 변경해 자신이 중요하다고 판단하는 프로젝트에 컴퓨팅 용량을 재배정하기도 한다고 WSJ는 소식통들을 인용해 전했다.

구글 AI 연구조직 딥마인드를 공동 설립하고 이끌었던 데미스 허사비스도 장기 연구 프로젝트에 충분한 컴퓨팅 자원이 배정되지 않는 데 불만을 나타낸 것으로 전해졌다. 허사비스는 지난 8월 딥마인드 회장직을 맡았다.

AI 개발 경쟁에서 연구 인력 확보만으로는 충분하지 않으며 확보한 인재가 실제 연구를 수행할 수 있도록 연산 자원을 제공하는 것이 새로운 과제로 부상한 셈이다.

◇앤스로픽, 경쟁사 머스크와 60조원대 계약

컴퓨팅 자원 부족은 경쟁 기업 간의 기존 관계도 바꾸고 있다.

WSJ에 따르면 앤스로픽 공동창업자 톰 브라운은 지난 3월 말 미국 캘리포니아주 호손에 있는 일론 머스크의 AI 기업 xAI 사무실을 방문했다.

브라운은 머스크를 직접 만나 xAI의 컴퓨팅 자원을 임대하는 방안을 협상했다.

앤스로픽의 AI 코딩 도구인 클로드 코드가 예상보다 큰 성공을 거두면서 컴퓨팅 자원 부족 현상이 심해졌기 때문이다. 이 과정에서 서비스 장애도 빈번하게 발생했다.

앤스로픽은 결국 지난 5월 머스크가 이끄는 스페이스X와 300메가와트(MW)가 넘는 컴퓨팅 용량을 임대하는 계약을 발표했다.

이후 공개된 계약 규모는 향후 수년에 걸쳐 최대 450억달러(약 60조4700억원)에 달하는 것으로 나타났다.

머스크는 과거 앤스로픽을 공개적으로 비판했지만 계약 이후 엑스(X)를 통해 앤스로픽 고위 경영진에게 깊은 인상을 받았다고 평가했다.

다리오 아모데이 앤스로픽 최고경영자(CEO)도 올해 메타의 최고AI책임자인 알렉산더 왕과 전화 통화를 갖고 추가 컴퓨팅 자원 확보 가능성을 타진한 것으로 전해졌다.

메타는 앤스로픽에 AI 반도체를 제공할지 논의했으나 현재로서는 공급하지 않기로 결정했다고 WSJ는 보도했다.

앤스로픽은 이 같은 협상 외에도 지난 1년 동안 수천억달러 규모의 컴퓨팅 관련 계약을 발표했다.

◇엔비디아 H100 임대료 60% 급등…스타트업 부담 가중

컴퓨팅 자원 확보 경쟁이 과열되면서 AI 반도체 임대 비용도 크게 뛰고 있다.

반도체 시장조사업체 세미애널리시스에 따르면 엔비디아 H100 반도체의 컴퓨팅 자원을 1년 계약으로 임대할 때 적용되는 시간당 비용은 지난 1년 동안 60% 상승했다.

구글 모회사 알파벳은 올해 최대 2000억달러(약 268조7600억원)의 자본지출을 예상하고 있으며 상당 부분을 AI 인프라에 투입할 계획이다.

그러나 거액의 투자 발표가 실제 컴퓨팅 자원 공급으로 곧바로 이어지는 것은 아니다.

AI 데이터센터 건설에는 여러 해가 걸리는 데다 규제와 정치적 반발로 사업이 지연되는 사례가 발생하고 있다.

캐나다 AI 기업 코히어의 닉 프로스트 공동창업자는 “발표된 컴퓨팅 용량 가운데 실제로 현재 이용할 수 있는 물량은 훨씬 적다”고 지적했다. 그는 상당수 데이터센터 건설 계획이 발표된 뒤 취소되거나 당초 계획보다 작은 규모로 추진되고 있다고 말했다.

오픈소스 AI 스타트업 아르시도 최근 인프라 협력사로부터 투자금과 컴퓨팅 용량을 확보하기로 했지만 데이터센터 건설이 지연되면서 계약이 무산됐다.

자원 공급이 부족해지자 기존 클라우드 사업자들은 고객에게 장기 계약과 높은 선불금을 요구하고 있다.

과거에는 아마존웹서비스(AWS) 등에서 AI 반도체를 비교적 짧은 기간 임대할 수 있었지만 최근에는 수년간의 이용 계약을 요구받는 경우가 늘었다.

계약금으로 전체 비용의 최대 30%를 미리 지급해야 하는 사례도 있으며 일부 사업자는 스타트업이 비용을 지급하지 못할 상황에 대비해 보증인까지 요구하고 있다.

샌프란시스코 컴퓨트의 에번 콘래드 CEO는 이러한 변화를 월 단위로 임대하던 아파트에 갑자기 5년 계약과 1년치 임대료 선납을 요구하는 상황에 비유했다.

컴퓨팅 자원을 확보하기 위해 보안이나 시설 안정성이 충분하지 않은 사업자와 계약하는 스타트업도 늘고 있다고 WSJ는 전했다.

◇벤처캐피털까지 GPU 직접 확보…자금보다 연산 능력 중요

컴퓨팅 자원 확보가 어려워지면서 벤처캐피털(VC)도 기존의 투자 방식에서 벗어나고 있다.

일부 벤처캐피털은 그래픽처리장치(GPU)를 직접 확보한 뒤 투자한 스타트업에 임대하거나 컴퓨팅 공급업체와의 계약을 보증하고 있다.

스타트업 육성기관 와이콤비네이터는 지난해 소속 기업 한 곳이 두 달간 AI 모델을 학습시키는 데 필요한 GPU 120개를 확보하지 못하자 자체 컴퓨팅 자원 공급 체계를 마련했다. 이 시설은 지난 7월 가동에 들어갔다.

AI 전문 벤처캐피털 래디컬벤처스도 투자 기업들이 컴퓨팅 자원을 확보할 수 있도록 별도의 조직을 운영하고 있다.

래디컬벤처스의 데이비드 캐츠가 이끄는 팀은 이용 가능한 GPU 물량과 임대 가격, 계약 조건을 조사하고 투자 기업들을 공급업체와 연결한다.

캐츠는 지난 5년 동안 자신과 소규모 팀이 수십억달러 규모의 컴퓨팅 계약을 협상했다고 밝혔다.

그는 과거 스타트업의 핵심 고민이 자금을 어디에서 조달할 것인지였다면 이제는 필요한 컴퓨팅 자원을 누가 확보해 줄 수 있는지가 중요해졌다고 설명했다.

급성장하는 스타트업들도 비슷한 딜레마에 직면했다.

AI 비서 서비스 기업 인스팅트는 지난달 기업가치 100억달러(약 13조4400억원)를 인정받으며 10억달러(약 1조3400억원)를 조달했다. 올해 들어 세 번째 자금 조달이었다.

그러나 메타와 오픈AI가 자체 데이터센터와 막대한 자본을 바탕으로 경쟁 서비스를 출시하면서 컴퓨팅 자원 확보가 사업 확장의 중요한 변수로 떠올랐다.

노아 신 인스팅트 CEO는 “향후 이용자가 1억명으로 늘어날 가능성에 대비해 컴퓨팅 용량을 미리 확보해야 할지 고민하고 있다”고 밝혔다.

예상보다 이용자가 적으면 과도한 임대 계약이 회사의 재무상태를 악화시킬 수 있고 반대로 컴퓨팅 자원을 충분히 확보하지 못하면 서비스 성장에 차질이 발생할 수 있기 때문이다.

벤처캐피털 그래디언트벤처스의 잭 브래튼글레넌 제너럴파트너는 “컴퓨팅 자원을 지나치게 많이 확보하면 과도한 임대 계약으로 기업이 파산할 수 있지만 너무 적게 확보하면 성장세가 꺾이고 이용자들의 불만이 커질 수 있다”고 지적했다.

컴퓨팅 자원을 찾아 세계 곳곳을 돌아다니는 전문업체들도 등장했다.

샌프란시스코 컴퓨트는 데이터센터의 시설과 운영 상태를 조사한 뒤 대기업부터 소규모 스타트업까지 고객에게 컴퓨팅 용량을 임대하고 있다.

이 회사의 에릭 박 최고기술책임자(CTO)는 미국 농촌의 개조된 닭장 형태 시설부터 필리핀 마닐라의 데이터센터까지 직접 방문하며 이용 가능한 서버를 찾아다니고 있다.

콘래드 CEO는 “현재 AI 컴퓨팅 자원 시장에서 거대한 골드러시가 벌어지고 있다”며 “그 규모를 온전히 이해하기 어려울 정도”라고 평가했다.

WSJ는 AI 기업들이 앞다퉈 대규모 데이터센터 건설과 반도체 확보 계획을 발표하고 있지만 실제로 당장 이용할 수 있는 연산 자원은 여전히 부족하다고 지적했다.

이 때문에 컴퓨팅 자원 확보 능력이 AI 기업의 연구개발 속도와 사업 확장, 나아가 생존 가능성까지 결정하는 핵심 변수로 자리 잡고 있다는 분석이다.


김현철 글로벌이코노믹 기자 rock@g-enews.com