머신러닝+AI=온디바이스 AI...강력한 정보보호 '강점'

인터넷 연결 없이 AI 활용 '온디바이스 AI'
빠른 처리와 정보 노출 위험 감소 뛰어나
스마트폰·자율주행·헬스케어 등 수요 증가

기기 자체에 장착된 AI 칩셋을 활용해 AI 기능을 보다 빠르고 효율적으로 사용하는 '온디바이스 AI'가 IT 분야의 중요 화두로 떠오르고 있다. 사진=Freepik

AI 업계의 새로운 화두로 온디바이스(On-Device) AI가 부상하고 있다. 온디바이스AI는 최근 수 년간 머신러닝과 딥러닝을 통해 급속도로 성장한 클라우드 기반 AI와 달리 기기 자체에 장착된 AI 칩셋을 활용해 AI 기능을 보다 빠르고 효율적으로 사용하는 것을 말한다.

급속도로 발전한 기술 덕분에 이제 AI 모델을 장치에 탑재, 온디바이스 AI의 확산이 빠르게 이어지고 있다. 온디바이스 AI에는 그래픽처리장치(GPU), 가속기(Accelerator), AI 칩과 같은 고급 하드웨어가 필요하다. 일반적으로 AI 모델은 많은 데이터를 사용해 클라우드에서 훈련되고 최적화된 후, 텐서플로우 라이트(Tensorflow Lite), 파이토치 모바일(Pytorch Mobile), 온디바이스 머신러닝 전문 지식을 적용하는 모바일 SDK 'ML Kit'와 같은 프레임워크를 사용해 기기에서 작동하는 형식으로 변환된다 .

온디바이스 AI는 공장, 병원, 최신 자동차, 위성, 가정용 기기 등에 적용된다. 칩셋이 장착된 현장에서 데이터를 처리해 더 나은 사용자 경험을 제공한다. 만약 온디바이스 AI에 문제가 발생하더라도 해당 데이터가 클라우드로 전송돼 AI 기능을 향상시킨다.

이미 사용자들은 이러한 온디바이스 AI 기능을 일상생활 속에서 체험하고 있다. 가령 애플 아이폰의 '헤이, 시리'나 '페이스 아이디(Face ID)', 구글 픽셀폰의 'Now Playing' 기능이 온디바이스 AI로 작동하는 기능이다.

온디바이스 AI는 데이터를 처리하기 위해 인터넷 접속이 필요하지 않다. 이는 처리를 위해 데이터를 원격 서버로 보낼 필요가 없으므로 더 빠르고 효율적으로 데이터를 처리할 수 있다는 의미다. 이를 통해 대기 시간이 줄어들고 전반적인 장치 성능이 향상되며 데이터 사용량이 줄어드는 이점이 발생한다.

또한 온디바이스 AI는 인터넷 없이 로컬에서 데이터를 처리해 민감한 정보가 제3자에게 노출될 위험을 줄여준다. IoT로 연결된 장치 수가 증가함에 따라 데이터 개인정보보호와 보안이 중요한 의료, 금융, 정부 등의 산업에서 온디바이스 AI의 가치는 말 할 필요가 없다.

온디바이스 AI 모델은 더 많은 데이터를 학습할수록 정확도가 점점 더 높아진다. 또한 온디바이스 AI는 음성 도우미 지원, 실시간 번역, 증강현실과 같은 새로운 사용 사례와 앱을 지원한다. 추후에는 더 많은 기기에서 온디바이스 AI를 사용하게 돼 보다 혁신적인 사용 사례가 나타날 것으로 전망된다.

현재 온디바이스 AI가 적극적으로 활용되고 있는 분야는 △스마트폰 △자율주행 차량 △헬스케어 △제조업 △소매 등이다. 스마트폰은 아이폰의 시리(Siri) 및 구글 어시스턴트(Google Assistant) 와 같은 AI 비서가 대표적인 예다. 이 AI 비서는 온디바이스 AI를 사용해 인터넷 연결 없이도 음성 명령을 이행한다. 또한 온디바이스 AI를 통해 보안 인증 및 휴대폰 잠금 해제를 위한 얼굴 인식과 같은 기능을 사용할 수 있다.

온디바이스 AI는 차량에 장착된 센서와 카메라의 데이터를 도로 위에서 실시간으로 처리함으로써 주행 중 발생할 수 있는 잠재적인 위험을 식별하고 사고를 방지하기 위한 신속한 결정을 내리는데 사용된다. 자율주행 차량에 적극적으로 사용되고 있는 만큼 자동차 산업에 큰 변화를 일으키고 있다.

헬스케어 분야에서는 환자의 원격 모니터링 및 진단이 가능하도록 도와준다. 이는 의료 서비스에 대한 접근성과 효율성을 더욱 향상시킨다. 스마트워치 및 피트니스 트래커 와 같은 웨어러블 기기는 온디바이스 AI를 사용해 활력 징후를 추적하고 환자와 의사에게 잠재적인 건강 문제에 대해 경고한다. 또한, 의료영상을 분석해 진단의 정확성과 속도를 향상시킬 수 있다.

기타 제조업에서는 제조 과정에 소용되는 시간을 단축하고 효율성을 향상시키는 데 사용되고 있다. 기기의 센서 데이터를 실시간으로 분석함으로써 고장이나 오류가 발생하기 전에 시설을 관리해 값비싼 수리의 필요성을 줄이게 된다. 소매업종에서는 고객 데이터를 분석하고 개인화된 제품 추천과 타겟 프로모션을 제공하는 등 고객 만족도와 충성도를 향상시키고 있다.

이상훈 글로벌이코노믹 기자 sanghoon@g-enews.com