레드햇 서밋서 금융권 최초 발표…GPU 비용 줄이고 처리속도 3배 높여
이미지 확대보기18일 카드업계에 따르면 BC카드는 최근 미국 애틀란타에서 열린 ‘Red Hat Summit 2026’에서 레드햇과 공동 구축한 ‘에이전틱 AI(Agentic AI) 운영 플랫폼’을 소개했다. 레드햇 서밋은 글로벌 오픈소스 기업 Red Hat이 주최하는 행사로, 오픈소스·클라우드·인공지능(AI) 분야 주요 기업과 개발자들이 참여하는 글로벌 기술 콘퍼런스다.
BC카드가 공개한 플랫폼은 하나의 대형언어모델(LLM)에 의존하는 기존 구조 대신, 업무별로 특화된 소형언어모델(SLM)을 동시에 운영하는 방식이 특징이다. 이를 통해 AI 처리 속도를 높이고 GPU 자원 사용량을 줄였다는 설명이다. 회사 측은 특정 업무에서 기존 대비 추론 속도가 최대 3배 이상 개선됐고 GPU 자원도 최대 70% 절감할 수 있었다고 밝혔다.
BC카드는 연간 100억건 이상의 결제 데이터를 처리하는 과정에서 축적한 운영 경험을 AI 시스템에 접목했다고 설명했다. 단순 챗봇 형태를 넘어 소비 패턴 분석, 임직원 업무 지원, AI 기반 업무 자동화 등 실제 서비스 영역에도 기술을 적용하고 있다는 점도 함께 소개했다.
BC카드는 자체 개발한 금융 특화 AI 모델과 데이터셋 일부를 글로벌 오픈소스 플랫폼인 허깅페이스(Hugging Face)에 공개하며 오픈소스 생태계 참여도 확대하고 있다. 업계에서는 국내 금융사들이 단순 AI 서비스 도입을 넘어 자체 AI 기술과 인프라 경쟁력 확보에 속도를 내고 있다는 평가가 나온다.
홍석경 글로벌이코노믹 기자 hong@g-enews.com
































