"엔비디아 B200 대비 효율 2배"…모레, AMD 최적화 '토큰 팩토리' 솔루션 띄운다

모레(MORE)가 AMD와 손잡고 데이터센터의 AI 추론 비용을 획기적으로 절감하는 '토큰 팩토리(Token Factory)' 솔루션을 선보였다.

모레는 4일 서울 웨스틴 파르나스에서 개최된 'AMD Advancing AI World Tour Seoul 2026'에 참가해 자사의 최첨단 AI 소프트웨어 스택을 공개했다. 이날 기조연설에 라민 로안 AMD 부사장과 나란히 등단한 조강원 대표는 "데이터센터가 AI 토큰을 찍어내는 '토큰 팩토리'로 변모함에 따라, 향후 업계의 핵심 경쟁력은 GPU 확보량이 아닌 '토큰당 단가'로 이동할 것"이라며 하드웨어 성능을 극대화하는 소프트웨어 최적화의 중요성을 역설했다.

이날 모레가 제시한 핵심 무기는 'MoAI 추론 프레임워크(MoAI Inference Framework)'다. 신규 AI 모델과 AMD GPU 세대 별 맞춤형 최적화를 지원하는 이 소프트웨어를 활용하면, 최신 오픈소스 모델을 AMD 인스팅트(Instinct) MI355X에서 구동할 때 경쟁사인 엔비디아 B200 대비 2배 이상의 데이터 처리량을 확보할 수 있다.

특히 인프라 전면 재구축에 부담을 느끼는 기업을 위한 '이기종 분산 추론' 기술이 큰 주목을 받았다. 기존에 쓰던 엔비디아 GPU에는 프롬프트 처리(Prefill)를, 새로 도입한 AMD GPU에는 응답 생성(Decode)을 각각 분담시켜 하나의 클러스터처럼 운용하는 방식이다. 이 방식을 적용하면 단일 GPU 클러스터 대비 1.7배가량 높은 효율을 낼 수 있다.
조강원 대표는 이날 패널 토론에서도 "단순히 GPU 하드웨어를 구매한다고 해서 국가적 소버린 AI 경쟁력이 완성되는 것은 아니다"라며 "새로운 AI 모델을 즉각 서비스로 연결하고 대규모 클러스터를 안정적으로 운영할 수 있는 소프트웨어 역량이 뒷받침돼야 한다"고 강조했다.

한편, 지난 2021년 KT와 협력해 2000장 이상의 AMD GPU 기반 AI 클라우드를 성공적으로 상용화했던 모레는 현재 축적된 운영 노하우를 바탕으로 국내외 다수 데이터센터에 토큰 팩토리 전환 솔루션을 활발히 공급하고 있다.


최정호 글로벌이코노믹 기자 junghochoi5591@g-enews.com