무조건 고급 AI 쓰던 시대 끝났다… '모델 믹싱'으로 비용 90% 절감

미국 기업들이 인공지능 도입 예산 폭증에 제동을 걸었다. 월스트리트저널은 지난 7월 24일(현지시각) 미국 기업들이 오픈AI와 안트로픽 같은 특정 빅테크 중심의 고가 모델 단일 의존을 줄이고 있다고 보도했다. 미국 기업들은 다양한 인공지능 모델을 업무 성격에 맞춰 조합하는 '모델 믹싱'을 대거 도입하고 있다.

미국 기업들은 그동안 토큰 소비량을 겨루는 '토큰맥싱' 경쟁을 벌여왔다. 최근 들어 실질적인 투자대비 수익률을 따지기 시작하면서 '스리프트맥싱'으로 기조가 급변했다. 이는 빅테크 기업들이 천문학적인 자금을 아낌없이 쏟아붓던 '수익 불문 투자' 시대가 끝나고, 실질적인 투자 대비 수익률(ROI)과 비용 효율성을 극단적으로 따지며 지출을 최소화하려는 기조를 뜻한다.

인공지능 활용 전략의 핵심 지표가 '얼마나 많이 쓰느냐'에서 '얼마나 가치 있게 절약하느냐'로 전환된 셈이다. 단순하거나 정형화된 업무에는 단가가 저렴한 모델을 배치하고, 고난도 기획이나 최종 검수 단계에만 최상위 모델을 붙이는 방식이 주를 이룬다.

소프트웨어 개발 스타트업 커서의 마이크 세익스 필드 최고기술책임자는 동네 마트에 우유를 사러 가면서 서킷 전용 슈퍼카를 몰고 갈 필요가 없다고 지적했다.
커서가 웹브라우저를 개발하는 자체 실험을 진행한 결과, 오픈AI의 최신 모델 'GPT-5.5'만 단독으로 사용했을 때는 1만 달러(약 1463만 5000원)가 소요됐다. 반면 자사의 코딩 모델 '컴포저'와 안트로픽의 '오퍼스 4.8'을 조합해 사용하자 비용이 1339달러(약 195만 9600원)로 90%가량 급감했다.


기업들의 이 같은 실용적 선택은 빅테크 중심의 과점 생태계에 균열을 일으키고 있다. 딥시크, 문샷AI, 자이 등 중국계 인공지능 기업들이 제공하는 저렴한 오픈웨이트 모델이 미국 기업 현장에 빠르게 침투하고 있다.

데이터 분석 플랫폼 헥스의 배리 매카델 공동창업자 겸 최고경영자는 최근 2주간 고객사의 약 50%가 중국 문샷AI의 '키미' 모델을 업무 흐름에 도입했다고 밝혔다. 배리 매카델 최고경영자는 언제든 더 뛰어난 성능의 모델이 나올 수 있는 시장이므로 특정 연구소에 매이지 않고 유연성을 유지하는 것이 핵심이라고 설명했다.

고객 이탈을 막기 위해 오픈AI와 안트로픽 등 기존 빅테크 기업들도 무료 토큰 제공과 가격 할인 카드를 꺼내 들었다. 고객 지원 플랫폼 파일론의 마티 카우사스 최고경영자는 인공지능 공급사들이 고객을 붙잡기 위해 대규모 할인을 제공하고 있다고 밝혔다.
마티 카우사스 최고경영자는 올해 들어서만 한 공급업체로부터 받은 약 160만 달러(약 23억 4160만 원)를 포함해 여러 인공지능 기업으로부터 대규모 무료 토큰을 지원받았다.

안보 우려를 이유로 미국 정치권 일각에서 중국산 인공지능 모델 규제론이 제기되고 있다. 반면 엔비디아, 마이크로소프트, 팔란티어 등이 포함된 주요 기술기업들은 오픈 모델 지원을 표명하며 규제에 신중해야 한다는 공동 서한을 미국 정책 입안자들에게 전달했다. 기술 차단보다는 맞춤형 법적 및 상업적 틀로 리스크를 관리해야 한다는 취지다.


기업들의 인공지능 운용 구조는 단일 통합 체제에서 업무별 특화 모델이 협력하는 '분업형 시스템'으로 재편되는 추세다. 통신 인프라 기업 텔닉스는 과거 안트로픽의 '클로드' 모델만 사용하다가 일일 비용이 10만 달러(약 1억 4635만 원)에 달할 것으로 예상되자 운용 전략을 대폭 개편했다.

현재 텔닉스는 안트로픽의 최고 성능 모델 '페이블'에 전체 작업 기획 및 지휘를 맡기고, 구체적인 실행은 단가가 저렴한 중국 Z.AI의 모델에 할당한다. 이후 최종 검수 및 리뷰는 오픈AI의 '솔' 모델에 맡기는 구조를 구축해 운용 비용을 획기적으로 낮췄다.

법률 인공지능 스타트업 하비 역시 'GLM-5.2' 모델을 기본으로 운용하되, 난도가 높은 과제 발생 시에만 앤트로픽의 '페이블 5' 모델을 호출하는 방식으로 성과와 비용을 동시에 잡았다.

과거에는 지피티 계열이나 클로드 등 초고가 및 최상위 단일 모델에 의존하며 사용량이 늘어날수록 비용이 폭증하는 구조였고 기술 선도 이미지 경쟁이 주를 이뤘다.

반면 현재의 모델 믹싱 전략은 업무별로 최적화된 복수 인공지능 모델을 조합해 단순 작업은 저가 및 오픈소스로 전환함으로써 비용을 최대 90% 절감하고 실질적인 투자대비 수익률과 가성비를 확보하고 있다.

이러한 비용 절감 흐름은 생성형 인공지능 도입을 적극 추진 중인 한국 기업들에도 시사하는 바가 크다. 한국 주요 기업들도 해외 초거대 인공지능 도입에 따른 막대한 응용프로그램 인터페이스 비용 부담을 안고 있는 만큼, 단순히 비용을 쪼개는 수준을 넘어 업무 난이도와 성격에 따라 모델을 분산 배치하는 '모델 아키텍처 다변화' 전략을 서둘러 구축해야 할 시점이다.


가성비를 중시하는 인공지능 운용 기조는 대규모 설비투자를 집행해 온 빅테크 하이퍼스케일러 기업들의 매출과 수익성에 중대한 과제를 던진다. 마켓워치는 2026년 7월 분석에서 기업들의 모델 믹싱 전환이 빅테크 기업들의 고단가 응용프로그램 인터페이스 매출 증가세를 연간 15% 이상 둔화시킬 수 있다고 전망했다.

이런 추세는 고성능 연산 반도체 수요 흐름을 변화시켜 한국 메모리 반도체 업계에도 영향을 줄 수 있다. 대형 모델 전용 추론 수요가 저사양 모델로 분산되면 고대역폭메모리(HBM) 탑재 서버의 신규 발주 속도가 조절될 가능성이 존재한다. 다만 반도체 시장조사업체 림시크 연구진은 모델 믹싱으로 인공지능 도입 장벽이 낮아져 전체 추론 토큰 소비 총량이 늘어나면 고성능 D램과 일반 서버용 D램 수요가 함께 확장되는 긍정적 측면도 공존한다고 분석했다.

단기적인 고단가 부품 쏠림은 다소 진정될 수 있으나, 인공지능 시장이 대중화(Mass Adoption) 단계로 접어들면서 국내 반도체 업계는 전체 D램 공급량이 안정적으로 유지되는 든든한 방어벽을 얻게 되는 구조라고 증권가에서는 진단한다.


김주원 글로벌이코노믹 기자 park@g-enews.com