기업들, 저가·오픈소스 모델 조합해 비용 절감…중국산 AI 모델 활용도 확산
이미지 확대보기인공지능(AI) 서비스 시장에서 가격 경쟁이 본격화하고 있다.
대기업과 스타트업들이 급증하는 AI 비용 부담을 줄이기 위해 오픈AI와 앤스로픽의 고가 모델만 쓰는 방식에서 벗어나 저렴한 제3자 모델과 자체 구축 모델을 섞어 쓰기 시작하면서다.
월스트리트저널(WSJ)은 기업들이 값싼 AI 모델을 조합해 사용하는 비용 절감 도구를 빠르게 도입하면서 업계 선두주자인 오픈AI와 앤스로픽이 가격 인하 압박을 받고 있다고 12일(현지시각) 보도했다.
이 같은 흐름은 오픈AI와 앤스로픽의 수익성 확보에도 부담이 될 수 있다는 전망이다. 두 회사는 첨단 AI 모델을 개발하고 운영하는 데 필요한 막대한 컴퓨팅 비용 때문에 이미 매년 수십억달러의 손실을 보고 있는 것으로 전해졌다.
◇ 기업들, 비싼 모델 대신 ‘섞어 쓰기’ 확산
최근 기업들은 AI 작업마다 가장 비싼 모델을 일괄적으로 쓰는 대신 업무 난도에 따라 모델을 자동으로 바꾸는 방식을 도입하고 있다. 간단한 작업에는 저렴한 오픈소스 모델이나 중국산 AI 모델을 쓰고 복잡한 작업에만 오픈AI의 챗GPT나 앤스로픽의 클로드 같은 고성능 모델을 호출하는 식이다.
이런 방식은 자율적으로 작업을 수행하는 AI 에이전트에 특히 많이 적용되고 있다. 에이전트는 여러 단계의 작업을 수행하는 과정에서 알리바바나 딥시크 등 중국 기업이 만든 저가 모델을 활용하다가 필요한 경우에만 더 비싼 고성능 모델로 전환한다.
WSJ에 따르면 이런 도구를 사용하는 기업 임원들은 일부 AI 보조 업무에서 비용을 최대 95%까지 줄일 수 있다고 설명했다.
버그 탐지 스타트업 디테일의 댄 로빈슨 창업자는 엔지니어들이 좋아하고 잘 작동하는 기술을 찾으면 이를 비용 효율적으로 만드는 방법을 찾는다고 말했다. 그는 디테일의 작업량 90%를 앤스로픽 클로드와 구글 제미나이에서 맞춤형 모델과 중국에서 개발된 GLM 계열 모델로 옮겼다.
◇ 오픈소스·중국 모델 부상…딥시크 사용 급증
오픈소스 모델과 중국산 AI 모델의 인기도 빠르게 높아지고 있다. 미국 기업들도 AI 비용을 낮추기 위해 이 흐름에 올라타고 있다.
마이크로소프트는 선도 모델보다 더 효율적으로 작동할 수 있는 소형 AI 모델 제품군을 지난주 공개했다. 엔비디아는 저가 모델군인 네모트론을 출시했고 오픈소스 AI를 개발하는 스타트업 리플렉션에도 투자했다.
중국산 오픈소스 모델도 미국 기업들 사이에서 사용이 늘고 있다. 스타트업 버셀 플랫폼에서 딥시크의 AI 사용 비중은 4월 1%에서 5월 17%로 뛰었다. AI 질의를 처리하는 또 다른 스타트업 오픈라우터에서는 딥시크가 5월 중순 이후 가장 많이 사용된 AI 기업이 됐다.
오픈라우터에 따르면 지출 규모가 큰 고객들 사이에서 오픈소스 토큰 사용량은 지난해 가을부터 올해 봄까지 폐쇄형 모델보다 4배 빠르게 증가했다. 또 500개가 넘는 조직이 독점 모델에서 오픈소스 모델로 전환한 것으로 나타났다.
비용 차이도 크다. AI 컴퓨팅의 기본 단위인 토큰 기준으로 오픈소스 모델은 훨씬 저렴하다. 앤스로픽이 최근 출시한 페이블 5 모델은 딥시크 V4 프로보다 토큰당 비용이 50배 이상 비싼 것으로 전해졌다.
다만 고가 모델이 항상 전체 비용 면에서 불리한 것은 아니다. 연구자들은 오픈AI와 앤스로픽, 구글 같은 기업의 최상위 독점 모델이 오픈소스 경쟁 모델보다 여전히 4~6개월 앞서 있다고 평가한다. 복잡한 작업에서는 고성능 모델이 더 적은 토큰으로 작업을 끝내 전체 비용을 낮출 수도 있다는 것이다.
앤스로픽 대변인은 기업들이 이제 토큰당 가격보다 작업 하나를 처음부터 끝까지 완료하는 데 드는 비용을 기준으로 모델을 평가하고 있다고 설명했다. 그는 앤스로픽도 더 저렴한 모델을 제공하고 있다고 덧붙였다.
◇ 가격 인하 압박, 상장 앞둔 사업모델 시험대
오픈AI는 앤스로픽의 유사한 가격 인하 가능성에 앞서 AI 이용자에게 부과하는 가격을 대폭 낮추는 방안을 검토하고 있다. 오픈AI는 지난해 막대한 자금을 투입해 현재 시장에서 구할 수 있는 것보다 훨씬 낮은 가격에 컴퓨팅 자원 접근권을 확보한 만큼 가격 경쟁에서 유리한 위치에 있다고 보는 것으로 전해졌다.
샘 올트먼 오픈AI 최고경영자(CEO)는 최근 회사 행사에서 비용이 갑자기 “엄청난 이슈”가 됐다고 말했다.
AI 가격 압박은 오픈AI와 앤스로픽이 상장을 준비하는 상황에서 더 민감한 문제가 되고 있다. 두 회사는 잠재적 기업공개(IPO)를 앞두고 비공개로 관련 서류를 제출한 것으로 알려졌다.
가격 전쟁은 AI 모델이 향후 범용 상품처럼 가격 경쟁에 휘말릴지, 아니면 선두 기업들의 빠른 성능 개선이 고가 프리미엄을 유지하게 할지를 가늠하는 시험대이기도 하다.
비샬 미스라 컬럼비아대 공학대학 컴퓨팅·AI 담당 부학장은 “양자중력을 아는 모델이 필요한 것은 아니다”라며 오픈소스 모델도 매우 유능해지고 있어 AI에 높은 프리미엄을 부과하는 능력은 줄어들 것이라고 말했다.
AI 비서 스타트업 린디는 두 달 전부터 딥시크 V4 모델을 시험하기 시작했다. 플로 크리벨로 창업자와 25명 규모의 팀은 딥시크가 이메일함과 일정 관리, 이메일 초안 작성, 회의 녹취 같은 업무를 처리할 수 있는지 내부 도구를 만들어 검증했다.
린디는 딥시크가 앤스로픽의 소넷 모델만큼 해당 업무를 잘 처리했고, 특히 이메일 분류에 강점을 보였다고 평가했다. 크리벨로 창업자는 딥시크가 10배 저렴했으며 이 전환으로 회사가 수백만달러를 절감했다고 말했다. 다만 내부 코딩 작업에는 여전히 더 고급 앤스로픽 모델을 사용하고 있다.
기업들은 자체 AI 모델을 만드는 방식으로도 비용을 낮추고 있다. 오픈소스 모델을 기반으로 사내 데이터를 학습시키면 업무 성능이 개선되거나 경우에 따라 최전선 AI 모델의 능력을 넘어설 수 있다는 설명도 나온다.
구글 클라우드 AI 전 책임자인 앤드루 무어가 세운 러브레이스AI는 AI 에이전트를 더 효율적으로 만드는 플랫폼을 운영한다. 무어는 현재 AI가 가능한 한 가장 저렴한 모델에서 필요한 결과를 끌어내고 문제가 생겼을 때만 잠시 더 비싼 모델로 올라간다고 설명했다.
자율 코딩 도구를 제공하는 팩토리의 마탄 그린버그 CEO도 최근 몇 주 동안 금융부터 통신까지 다양한 업계의 최고경영진이 AI 지출을 줄이는 방법을 찾기 위해 계속 연락해 오고 있다고 말했다.
AI 가격전쟁은 기업 고객에게는 비용 절감 기회가 될 수 있다. 그러나 오픈AI와 앤스로픽에는 고성능 모델의 프리미엄을 유지하면서도 막대한 컴퓨팅 비용을 감당해야 하는 어려운 과제를 던지고 있다. AI 시장의 성장세가 유지되더라도 수익성 확보가 쉽지 않을 수 있다는 점이 본격적으로 드러나고 있는 셈이다.
김현철 글로벌이코노믹 기자 rock@g-enews.com
































