오픈AI, 700W 독자칩 승부수... 엔비디아, 블랙웰 넘고 비용 낮춘다

오픈AI가 2026년 8월 25일 자체 설계한 700W 저전력 인공지능(AI) 추론용 반도체 '할라페뇨(Jalapeno)'를 공개하며 독자 인프라 구축의 첫걸음을 뗐다.

블룸버그통신은 이날(현지시각) 오픈AI의 시험 결과를 인용해 할라페뇨가 엔비디아의 블랙웰 계열 랙 시스템(GB200·GB300) 대비 단위 전력당 처리량에서 앞섰다고 보도했다. 빅테크 기업의 자체 주문형반도체(ASIC) 도입 확산은 엔비디아 단일 통로에 쏠렸던 고성능 메모리 수요처가 분산되는 경로를 형성한다.


오픈AI 칩 부문 책임자인 리처드 호(Richard Ho)는 인터뷰에서 공개 벤치마크 시스템을 통해 할라페뇨 성능을 엔비디아 GB300 등과 비교 측정했다고 밝혔다. 할라페뇨는 대규모 모델 학습이 아닌 이미 학습을 마친 모델이 질문에 답하는 추론 단계에 맞춘 반도체다. 데이터센터 운영비의 핵심인 전력 소모를 줄이기 위해 작동 소비전력을 700W 수준으로 낮췄다.
오픈AI는 이번 시험에서 오픈소스 모델인 GPT-OSS 120B와 딥시크 R1(DeepSeek R1), 문샷AI의 키미 K2.5 1T(Kimi K2.5 1T)를 활용했다. 오픈AI 측은 시험 결과 가장 큰 규모인 키미 모델에서 성능 격차가 더 벌어졌으며, 내부 미공개 대형 모델에서도 우수한 결과를 냈다고 설명했다. 오픈AI는 "작업 규모가 커지고 요구 사양이 높아질수록 자체 설계 가치가 더 커진다"고 공식 블로그에서 밝혔다.


오픈AI가 공개한 시험 결과에 따르면 할라페뇨는 단위 전력(W)당 처리량에서 1.5~1.9배, 종단 지연 시간에서 1.7~3.6배 우위를 보였다고 주장했다. 다만 이 수치는 칩 단일 성능 비교를 바탕으로 한 결과다. 전체 유틸리티 전력(1.18kW 대 2.55kW)을 기준으로 삼거나 GB300의 멀티 토큰 예측 모드와 비교하면 효율 격차는 약 1.5배 수준으로 좁혀진다.

할라페뇨는 인공지능 모델 학습에는 쓰이지 않으며, 차세대 칩인 베라 루빈과의 비교 시험은 진행하지 않았다. 이 반도체는 브로드컴과의 협력으로 개발됐다. 오픈AI는 자체 모델을 칩 설계에 도입해 개발 기간을 단축했다. 회사는 2세대 칩 설계를 상당 부분 진척해 수개월 안에 최종 설계 완료를 마친다는 목표다. 3세대 개념 설계도 함께 진행 중이다.


빅테크 기업의 자체 추론 반도체 도입은 한국 메모리 제조사의 공급망 구조에도 영향을 미치는 변수다. 오픈AI의 할라페뇨 도입은 브로드컴 중심의 맞춤형 반도체 생태계를 넓혀, 기존 엔비디아 주도 가속기 시장에 집중됐던 고성능 메모리 수요 통로를 다변화하는 요인으로 작용할 수 있다.
한국 메모리 업계 입장에서는 엔비디아 단일 공급선 의존에서 벗어나 빅테크 맞춤형 반도체 생태계로 공급 창구를 넓힐 기회가 열린다. 삼성전자와 SK하이닉스는 고객사별 구체 공급 비중을 기업 보고서에 공시하지 않고 있으나, 커스텀 칩 시장 확대는 특정 고객사 단일 의존 리스크를 분산시키는 환경을 제공한다.

반면 할라페뇨의 실제 전력 절감 효율이 엔비디아 차세대 아키텍처 대비 경제성을 입증하지 못해 양산이 축소되면, 메모리 수요처 분산 효과는 제한될 수 있다.

오픈AI는 방대한 연산 수요를 감당하기 위해 세레브라스 등 기존 파트너와의 협력을 당분간 병행한다는 방침이다. 오픈AI는 올해 안에 할라페뇨를 실제 서비스 인프라에 투입해 비용 절감 효과를 직접 검증할 계획이다. 연내 실제 투입 결과와 차세대 칩 설계 진척도가 반도체 시장 구도 변화의 핵심 관전 요소다.


김주원 글로벌이코노믹 기자 park@g-enews.com