"음성·문자 스캠 꼼짝마!" 구글, 제미나이 활용 사기 경고기능 공개

구글이 '구글 메시지'에서 채팅 또는 음성 통화 중에 AI가 사기를 감지하고 사용자에게 음성 및 촉각으로 경고하는 기능을 4일(현지시각) 발표했다.

스마트폰을 통한 사기 대부분이 전화통화나 문자메시지에서 발생되는 만큼 구글은 자사의 AI를 활용해 안드로이드 기기의 보안 보호 기능을 강화하고 있다.

구글이 새롭게 선보이는 보안 보호 기능은 '문자메시지 사기 탐지' 기능과 '전화 사기 탐지' 기능이다.

문자메시지 사기 탐지의 경우 구글 메신저 앱에서 AI가 SMS, MMS, RCS 메시지를 분석해 의심스러운 패턴을 감지한다. 만약 사기 가능성이 있는 경우 경고 메시지를 화면에 표시하며, 사용자는 발신자를 차단하거나 신고할 수 있다. 이 기능은 기본적으로 활성화돼 있으며, 연락처에 없는 발신자와의 대화에만 적용된다.
모든 데이터 처리는 기기 내에서 이루어져 사용자 프라이버시를 보장한다. 문자메시지 사기 탐지 기능은 우선 영어를 사용하는 미국, 영국, 캐나다에 선 출시되며 이후 다른 국가로 확대될 예정이다.

전화 사기 탐지의 경우 디바이스 상의 AI가 실시간으로 통화를 분석하고 사기를 감지한다. 가령 발신자가 기프트카드나 선불카드 결제를 요청하면 경고 알림이 음성과 촉각 피드백(진동) 등을 통해 전달된다.

통화 음성은 기기 내에서만 처리되며 관련 내용이 저장되지 않는다. 이 기능은 기본적으로 비활성화돼 있으며 픽셀 9 이상 기기는 제미나이 나노 AI 모델을 사용한다. 픽셀 6~8의 구형 스마트폰은 보다 경량화된 AI 모델을 사용한다.

구글은 "이 두 기능은 대화 중간에 발생하는 정교한 사기도 실시간으로 탐지할 수 있도록 설계됐으며, 사용자가 보다 안전하게 안드로이드를 사용할 수 있도록 돕는다"며 "구글은 금융기관들과 협력해 최신 사기 수법을 분석하고 이에 대응하기 위해 지속적으로 기술을 발전시키고 있다"고 밝혔다.

한편 글로벌사기방지연합(Global Anti-Scam Alliance, GASA)의 조사에 따르면 지난해 사기꾼들은 전세계 모바일 사용자로부터 1조달러(약 1451조5000억원)에 달하는 금액을 탈취했다. 특히 생성형 AI를 사용한 범죄가 증가하고 있고, 이로 인한 피해도 보고되고 있어 그 심각성이 더욱 커지고 있다.


이상훈 글로벌이코노믹 기자 sanghoon@g-enews.com