쿠다 철옹성에 균열 낸 메타… 구글 손잡고 전용 칩 띄웠다

메타가 인공지능 실제 서비스 가동 환경에 구글 맞춤형 가속기 텐서처리장치(TPU)를 전격 투입해 단일 하드웨어 종속 구조에서 벗어나는 행보를 시작했다.

정보기술 전문 매체 톰스하드웨어는 10월 23일(현지시각) 메타가 파이토치 기반 추론 구동 엔진 '에스지랭-토치티피유'를 실제 서비스 환경에 투입했다고 보도했다.

빅테크 기업들이 전용 칩 소프트웨어 진입장벽을 허물면서 한국 메모리 반도체 공급망에도 고객선 다변화 파급이 일어날 수 있다는 분석이 나온다.


구글 개발자 블로그 공식 발표에 따르면 이번 체계는 메타와 구글, 추론 스타트업 라딕스아크가 삼자 협력을 구축해 완성했다. 핵심 성과는 메타가 주도하는 인공지능 프레임워크 파이토치 코드를 구글 전용 언어인 잭스(JAX)로 다시 작성하지 않고도 텐서처리장치 위에서 가동하도록 지원하는 구조를 확립한 점이다.
또 다른 대표 추론 엔진인 브이엘엘엠(vLLM)의 텐서처리장치 대응 버전도 함께 개방형 소프트웨어로 공개됐다.

야나 판 흐루넨 메타 파이토치 엔지니어링 이사는 구글 공식 채널을 통해 메타가 단일 하드웨어 구조에 갇혀 있을 수 없다며 개발 배경을 직접 밝혔다.

반도체 분석 기관 세미애널리시스에 따르면 메타는 2020년부터 2023년까지 구형 연결 소프트웨어를 거쳐 텐서처리장치를 시험 운용하다가 계약을 해지한 바 있다. 이번 협력은 프레임워크 전환 비용 문제를 해결해 실제 상용 서비스 투입을 실현했다.

메타의 서비스용 텐서처리장치가 설치된 물리 서버 소재지나 전체 설비 가운데 차지하는 비중은 공개되지 않았다. 다만 클라우드 다년 임대 계약을 디딤돌 삼아 전용 가속기 활용 반경은 가파르게 넓어지는 흐름이다.

연산 처리 성능에서도 뚜렷한 진전이 확인됐다. vLLM 창립자들이 설립한 스타트업 인퍼랙트에 따르면 7세대 '아이언우드' 텐서처리장치 16개에 추측적 디코딩 기술을 적용해 문샷AI의 2조 8000억 개 매개변수 모델 키미 케이스리를 구동한 결과 단일 사용자 기준 초당 700토큰 이상의 처리 속도를 나타냈다.

이는 동일한 환경에서 측정한 엔비디아 지비200 16개 체계의 초당 452토큰을 웃도는 수치다.

추측적 디코딩 기술을 쓰지 않은 소규모 묶음 처리 조건에서도 성능 개선이 나타났다. 인퍼랙트는 키미 케이스리와 큐원 3.8 27비 모델을 대상으로 아이언우드가 지비200 기준치 대비 약 1.4배에서 2배에 이르는 처리량을 달성했다고 밝혔다.

연산 병목 현상을 낮추면서 전력 소모 대비 데이터 처리 효율을 끌어올린 결과로 풀이된다.

소프트웨어 호환 폭도 빠르게 넓어지고 있다. 에스지랭-토치티피유는 딥시크 V4.1 플래시와 리플렉션 빔 모델 지원을 우선 추가할 계획이다. 개발진은 새로운 개방형 모델이 출시되는 당일에 하드웨어 구동을 뒷받침하는 지원 체계를 갖춰 나가고 있다.


아마존 역시 같은 날 파이토치 연례회의에서 자사 차세대 가속기 트레이니엄2와 트레이니엄3를 지원하는 개방형 백엔드 '토치뉴런'을 공개했다. 구글과 아마존이 나란히 파이토치 직접 지원에 나서면서 엔비디아의 독점 소프트웨어 생태계인 쿠다(CUDA)의 결속력은 중대한 시험대에 올랐다.

데이터센터 운영 비용을 줄이려는 주요 빅테크의 독자 주문형 반도체(ASIC) 도입 전략이 소프트웨어 지원을 발판으로 현실화하는 양상이다.

한국 반도체 제조사들은 주문형 반도체 생태계의 부상을 새로운 협상 분기점으로 평가한다. 엔비디아 주도 시장에서는 SK하이닉스가 5세대 고대역폭 메모리(HBM3E) 공급을 주도해 왔으나, 대당 192기가바이트(GB)에 달하는 고용량 메모리를 탑재하는 구글 7세대 텐서처리장치의 확산은 삼성전자를 비롯한 한국 공급망 전반에 납품처 다변화 기회를 제공한다.

단일 고객사에 쏠려 있던 가격 결정 구조를 완화하고 고부가가치 메모리 판매 경로를 넓히는 기틀이 마련되는 셈이다.

다만 시장 분석가들은 빅테크의 자체 가속기 전환과 무관하게 데이터센터 전력망 포화나 거시 경제 여건 악화로 설비투자 규모 자체가 축소될 경우 고대역폭 메모리의 전반적인 수요 증가세가 일시적으로 둔화될 수 있다는 신중론을 덧붙인다.

맞춤형 가속기 생태계가 창출하는 실질적인 메모리 발주 물량이 언제 본격화할지가 중장기 실적의 방향타를 쥘 전망이다.

빅테크의 독자 반도체 생태계 전환이 실제 서비스 전반으로 어느 수준까지 확산할지는 향후 시장 구도를 가를 분수령이다. 라딕스아크가 2027년 1분기를 목표로 추진하는 신규 개방형 모델 출시 당일 가동 지원 체계 완성 여부와 오는 11월 12일 샌프란시스코 에스지랭 서밋에서 공개될 추가 세부 규격이 산업계 확산 속도를 가늠할 실질적인 지표로 꼽힌다.


김주원 글로벌이코노믹 기자 park@g-enews.com