KT, 기존 서비스에 AI 심는 '이음 인사이드' 선보여

KT가 과학기술정보통신부의 ‘모두의 AI’ 사업에서 6000만개 이상의 서비스 접점을 앞세워 대국민 인공지능(AI) 서비스 확산에 나선다. 별도 AI 앱에 국한하지 않고 공공·교육·금융·쇼핑 등 기존 서비스에 AI를 활용하는 방식이다.

13일 KT에 따르면 업스테이지와 솔트룩스, 다음, 무신사, 직방, EBS, 매스프레소, BC카드 등이 참여한 KT 컨소시엄은 ‘이음 인사이드’ 전략을 중심으로 모두의 AI 서비스를 구축에 나선다. 이 서비스의 핵심은 이용자가 평소 사용하던 방식에 AI 기능을 쓸 수 있도록 하는 것이다. 앱과 웹, 인터넷TV(IPTV) 등 접속 채널에 관계없이 하나의 AI 경험을 제공하고 향후 새로운 AI 모델이나 서비스 기업도 추가로 참여할 수 있도록 개방형 구조를 적용한다.

KT는 모두의 AI 앱을 중심으로 종합 검색 포털 '다음'과 컨소시엄 참여 기업의 서비스, 지니TV 등으로 적용 범위를 넓힌다. 범용 서비스에는 검색 기반 최신 정보 탐색과 복수의 국산 AI 모델을 함께 활용한다. 기존 검색이나 문의 내용을 기억하는 개인화 기능도 적용해 이용자 별 맞춤 정보를 제공할 예정이다. 직방에 적용될 경우 이용자가 보는 아파트의 신규 실거래가와 매물을 분석해 시세보다 낮은 매물이나 최근 거래가격과의 차이 등을 AI가 선별해 알려주는 방식이다.

공공 분야에서는 질의응답을 넘어 이용자 상황에 맞춘 기능을 제공한다. 연령과 거주지역 등을 반영한 공공혜택 추천을 비롯해 알림, 대화형 절차 안내, 발급·신청 지원 등을 이음 앱과 웹에서 구현한다. 적용 분야는 향후 영농과 창업 등으로 확대한다. 추가 기업의 참여를 유도해 일상과 산업 전반에서 활용할 수 있는 AI 에이전트 생태계로 넓힌다는 구상이다.
KT컨소시엄은 업스테이지의 '솔라', 모티프테크놀로지스의 '모티프', 솔트룩스의 '루시아', NC AI의 '바르코', KT의 '믿음' 등 다양한 국산 AI 모델을 활용한다. 리벨리온의 신경망처리장치(NPU)와 래블업·베슬AI의 AI 인프라 운영 최적화 기술도 함께 적용한다.

이들 모델과 기술은 KT의 AI 운영 플랫폼 ‘토큰팩토리’에서 통합 운영돼 서비스 특성에 맞는 AI 모델을 자동으로 연결한다. 토큰팩토리는 사용자가 입력한 프롬프트 처리와 응답 생성을 분리해 각 단계에 최적화된 자원을 할당하는 방식도 적용했다. 이를 통해 분당 토큰 처리량(TPM)을 약 31% 높이고, 다양한 프롬프트 압축 기술로 입력 토큰을 최대 80%까지 줄여 그래픽처리장치(GPU) 활용도를 높였다.

또 KT는 토큰팩토리를 활용해 GPU 활용도가 높아진만큼 사용 비용도 저렴해진다는 것이 KT의 설명이다. 이를 통해 KT를 비롯한 참가 컨소시엄들은 토큰을 저렴하게 확보해 다양한 서비스를 선보일 수 있게 됐지만 수익화는 모두의 AI 사업 특성상 바로 확보하기 어려울 것으로 보인다. 이 사업은 국산 AI 모델을 기반으로 범용·공공·생활 특화 대국민 AI 서비스를 제공을 목표로 하고 있기 때문이다.

이진형 KT 인공지능 전환(AX)사업본부장 상무는 “이음 인사이드를 통한 개방형 AI 생태계 조성으로 국민의 일상을 함께하는 것은 물론 다양한 서비스 접점을 통해 디지털 소외계층까지 포용하는 대국민 AI 서비스를 선보일 것”이라며 “국내 최고 수준의 멀티모델과 KT 역량이 응축된 토큰팩토리를 바탕으로 빠르고, 정확하며, 안정적인 최적의 AI 서비스를 제공하도록 최선을 다하겠다”고 말했다.


이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com