오픈AI, 브로드컴과 자체 개발한 AI 칩 첫 공개

챗GPT 개발사인 오픈AI가 브로드컴과 함께 개발한 첫 자체 인공지능(AI) 반도체를 공개했다.

엔비디아 그래픽처리장치(GPU)에 대한 의존도를 낮추고 AI 서비스를 운영하는 데 드는 비용을 줄이려는 전략의 일환이다.

블룸버그통신은 오픈AI가 브로드컴과 공동 개발한 AI 칩 ‘할라페뇨’의 첫 시제품을 받아 시험에 들어갔다고 25일(현지시각) 보도했다. 오픈AI는 이 칩이 실제 AI 작업을 처리할 때 어떤 성능과 효율을 보이는지 검증하고 있다.

할라페뇨는 AI 모델을 학습시키는 용도보다는 챗GPT처럼 사용자의 질문에 답을 생성하는 추론 작업에 초점을 맞춘 반도체다. 추론은 이미 훈련된 AI 모델이 사용자의 입력을 처리하고 답변을 만들어내는 단계다. 이용자가 늘수록 반복적으로 발생하는 비용이 커지기 때문에 오픈AI에는 추론 비용을 낮추는 것이 핵심 과제다.
혹 탄 브로드컴 최고경영자(CEO)는 블룸버그와 인터뷰에서 할라페뇨가 “일반적인 AI GPU와 비교해 약 50%의 비용 절감 효과를 보이고 있다”고 밝혔다. 그는 오픈AI와의 협력이 앞으로 여러 세대에 걸친 AI 반도체 개발 로드맵의 시작이라고 설명했다.


오픈AI가 자체 AI 칩 개발에 나선 배경에는 급증하는 연산 비용이 있다. 챗GPT와 코덱스 같은 AI 서비스는 이용자가 늘수록 막대한 데이터센터 연산 능력을 필요로 한다. 지금까지 고성능 AI 반도체 시장은 엔비디아 GPU가 사실상 주도해왔다.

그러나 GPU는 범용성이 높은 대신 가격이 비싸고 공급도 제한적이다. 오픈AI 입장에서는 자사 AI 모델의 작동 방식에 맞춘 전용 반도체를 만들면 성능과 전력 효율, 비용 구조를 개선할 수 있다. 할라페뇨는 이런 목적에 맞춰 설계된 주문형 반도체(ASIC) 성격의 AI 가속기다.

로이터통신도 오픈AI와 브로드컴이 할라페뇨를 대형언어모델 추론 작업에 맞춰 설계했다고 전했다. 탄 CEO는 이 칩이 엔비디아의 블랙웰 칩이나 구글의 텐서처리장치(TPU)에 견줄 만한 수준이라고 말했다.

오픈AI의 자체 칩 공개는 AI 반도체 시장의 경쟁 구도가 바뀌고 있음을 보여준다. 구글은 TPU, 아마존은 트레이니움과 인퍼런시아, 마이크로소프트는 마이아, 메타는 자체 추론·학습용 반도체 개발에 나서왔다. AI 서비스를 직접 운영하는 대형 기술기업들이 반도체 설계까지 끌어안는 흐름이 강해지고 있다.

오픈AI도 같은 방향으로 움직이고 있다. 브로드컴과의 협력은 단순한 칩 공급 계약을 넘어 모델 개발 경험을 하드웨어 설계에 반영하려는 시도다. 오픈AI는 자사 모델과 제품에서 얻은 정보를 반도체와 시스템 설계에 직접 반영해 더 높은 효율을 얻겠다는 구상이다.

브로드컴에는 이번 협력이 AI 반도체 시장에서 입지를 넓힐 기회다. 브로드컴은 고객 맞춤형 반도체와 네트워크 장비에 강점을 가진 회사로, 엔비디아가 장악한 AI 가속기 시장에서 맞춤형 칩 수요 증가의 수혜주로 꼽힌다.


오픈AI의 할라페뇨 공개는 AI 경쟁이 모델 성능과 서비스 경쟁을 넘어 칩, 메모리, 네트워크, 데이터센터 전력까지 포함한 인프라 경쟁으로 확대되고 있음을 보여준다는 분석이다. AI 모델이 커지고 사용량이 늘수록, 누가 더 싸고 빠르게 서비스를 운영할 수 있느냐가 경쟁력의 핵심이 되고 있다.

다만 할라페뇨가 곧바로 엔비디아의 지위를 흔들지는 미지수다. 엔비디아 GPU는 학습과 추론을 모두 아우르는 생태계와 소프트웨어 지원을 갖추고 있다. 오픈AI의 자체 칩은 우선 특정 작업에 최적화된 내부 인프라 성격이 강하다.

그럼에도 오픈AI가 자체 반도체를 실제 시험 단계로 끌어올렸다는 점은 의미가 작지 않다. AI 서비스 운영비를 낮추고 공급망 통제력을 높이려는 빅테크의 움직임이 더 빨라질 수 있기 때문이다. 할라페뇨가 실제 데이터센터 배치 단계로 넘어갈 경우 AI 반도체 시장에서 엔비디아 중심 구도에 또 하나의 균열이 생길 가능성이 있다.


김현철 글로벌이코노믹 기자 rock@g-enews.com