AI 스마트폰 전쟁 승부처는 ‘지능’ 아닌 ‘보안’… “똑똑한 에이전트가 가장 위험할 수도”

스마트폰 산업의 패러다임이 단순한 하드웨어 스펙 경쟁에서 'AI 에이전트' 중심의 인터페이스 혁명으로 급격히 전환되고 있다.

사용자의 의도를 이해하고 앱을 넘나들며 예약, 구매, 메시지 전송 등을 대신 수행하는 AI 에이전트는 '마법 같은' 편의성을 약속하지만, 동시에 전례 없는 보안 위협을 예고하고 있다.

30일(현지시각) 중국 기술 뉴스 스타트업 '테크테크차이나(TechTechChina)'의 비비안 토 편집장은 AI 스마트폰 경쟁의 최종 승자는 가장 똑똑한 AI가 아니라, 가장 신뢰할 수 있는 보안 아키텍처를 구축한 기업이 될 것이라고 내다봤다.


AI 에이전트의 핵심은 스마트폰을 '앱 중심'에서 '작업 중심' 시스템으로 바꾸는 것이다. 사용자가 "가장 저렴한 옵션을 찾아 쿠폰을 적용해 주문하고 동료에게 알려줘"라고 명령하면, AI는 여러 앱의 데이터를 읽고 실행한다.
이를 위해 초기 AI 시스템은 화면 읽기, 인터페이스 제어, 앱 간 데이터 이동 등 운영체제(OS) 내 최상위 권한에 의존한다. 사실상 AI가 기기 전체를 들여다보는 '슈퍼유저'가 되는 셈이다.

바이두나 바이트댄스(Doubao) 등이 채택한 '시각적 내비게이션'은 AI가 인간처럼 화면을 읽고 탭하며 앱과 상호작용하는 방식이다. 앱 개발자가 별도의 인터페이스를 만들지 않아도 즉각 적용 가능하다는 장점이 있지만, 보안 경계를 약화시키는 '보안 부채'를 쌓는다.


전통적인 소프트웨어 버그가 코드를 뚫고 침입하는 방식이라면, AI 에이전트 시대의 보안 위협은 '의도의 조작'에 집중된다.

연구 결과에 따르면, AI 보조원에게 악의적인 이메일을 보내 로그인 인증 코드를 전달하도록 유도하는 '피싱' 공격이 가능하다. AI는 이 지시를 정당한 작업으로 오해하고 실행하며, 이는 즉시 계정 탈취로 이어진다.
AI 에이전트가 광범위한 권한을 가지고 있기 때문에, 단 한 번의 침해는 정보 유출에 그치지 않고 앱 실행, 설정 변경, 메시지 전송 등 기기 전체의 통제권 상실로 이어질 수 있다.

보안 전문가들은 AI가 일을 더 잘 처리할수록, 잘못된 지시를 받았을 때 더 효율적으로 잘못된 일을 수행하게 된다고 경고한다.


보안 우려로 인해 알리페이(Alipay)나 위챗(WeChat) 같은 주요 플랫폼들은 AI 에이전트에 대한 시스템 접근 권한 부여를 주저하고 있다. 이에 따라 글로벌 빅테크 기업들은 서로 다른 보안 철학을 내세우고 있다.

구글은 AI가 모든 것을 보고 클릭하는 대신, 표준화된 인터페이스(App Functions)를 통해 정의된 기능만 수행하도록 제한하는 구조를 추진 중이다. 이는 화려함은 덜하지만 감사(Audit)가 가능하고 보안성이 높다.

시각적 내비게이션과 같은 '지름길'은 시장에서 '와우(Wow)' 요소를 제공하지만 공격 표면을 확장시킨다. 반면 구조화된 아키텍처는 개발자 협업과 모델 훈련에 시간이 걸리지만 장기적인 신뢰를 담보한다.


AI 스마트폰 전쟁은 더 이상 지능의 크기 싸움이 아니다. 승리는 최소 권한 설계(Least Privilege Design), 명확한 감사 추적, 고위험 행동에 대한 엄격한 사용자 통제에 기반한 아키텍처를 가진 자에게 돌아갈 것이다.

비비안 토 편집장은 "세상의 모든 앱 플랫폼과 규제 기관, 사용자들에게 자신의 은행 계좌와 개인정보가 담긴 기기의 열쇠를 맡길 자격이 있다고 설득하는 쪽이 이 경쟁의 진정한 승자가 될 것"이라고 강조했다.

보안은 이제 단순한 뒷수습이 아니라, AI 폰의 핵심 프론트엔드 제품 경쟁력이 되었다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com