[초점] "유아 수준 보안 의식" AI 비서...프롬프트 주입에 '속수무책'

업무 효율을 획기적으로 높여줄 것으로 기대받는 '브라우저 AI 에이전트'가 프롬프트 인젝션 공격 등 새로운 보안 위협으로 떠오르고 있다. 오픈AI의 '오퍼레이터(Operator)', 앤트로픽의 '클로드(Claude)' 등이 대표적인 이 기술은 사용자 대신 웹서핑, 정보 요약, 데이터 입력 등을 자율적으로 수행하지만, 보안 이해가 거의 없어 심각한 공격에 노출될 수 있다고 포브스재팬이 6일(현지시각) 경고했다.


보안 기업 스퀘어엑스는 "조직의 가장 취약한 지점은 인간이라는 통념이 더 이상 통하지 않을 수 있다"며 브라우저 AI 에이전트가 초래하는 위험을 지적했다. 실제로 PwC 조사에 따르면 미국 조직의 79%가 이미 브라우저 AI 에이전트를 사용하고 있어, 이 문제는 일부 기업에 국한되지 않는다.

문제의 핵심은 이들 AI 에이전트의 사이버 보안 의식이 '유아 수준'에 불과하다는 점이다. 에이전트는 지시받은 과업 수행에만 집중할 뿐, 자신의 행동이 어떤 보안 문제를 일으킬지 전혀 인지하지 못한다. 스퀘어엑스는 "에이전트는 의심스러운 URL, 과도한 권한 요구, 비정상적인 웹사이트 디자인 등 인간이라면 위험을 감지할 수 있는 시각적 경고 신호를 인식하지 못한다"고 설명했다. 이런 허점은 '프롬프트 인젝션'과 같은 새로운 공격 기법에 특히 취약하다. 공격자가 웹페이지나 SNS 댓글 등에 악의적인 명령을 숨겨두면, AI 에이전트는 이를 그대로 읽고 사용자의 뜻과 무관하게 메일을 보내거나 데이터를 유출하는 등 위험한 행동을 자동으로 할 수 있다.

공격 시나리오는 다양하다. 가장 대표적인 것은 OAuth(개방형 인증) 프로토콜을 악용하는 방식이다. 스퀘어엑스의 개념 검증 실험에서도 '파일 공유 도구를 찾아 가입하라'는 명령을 받은 AI 에이전트가 관련 없는 권한 요구, 낯선 브랜드 등 여러 위험 신호에도 악성 앱에 사용자의 전체 이메일 접근 권한을 넘겨주는 모습이 나타났다. 이처럼 에이전트는 사용자와 동일한 권한으로 로그인된 계정의 인증 정보나 저장된 비밀번호, 쿠키 등에 접근할 수 있어 피해가 커질 수 있다. 나아가 기업 네트워크 안에서 AI 에이전트 설정을 변조해, 사내 시스템에 불법으로 계속 접근하는 고도화된 공격도 가능하다.

이런 공격이 성공하는 까닭은 크게 두 가지다. 스퀘어엑스의 비벡 라마찬드란 최고경영자(CEO)는 "첫째, 서비스 제공업체들이 AI 에이전트에 세분화된 제어 권한을 적용할 수 있는 하위 ID를 만들 방법이 없다"고 지적했다. 사실상 AI 에이전트 전용 권한 분리나 감독 체계가 없는 셈이다. 이 때문에 에이전트는 사용자와 동일한 권한으로 움직이며, 사용자가 접근할 수 있는 모든 기업용 SaaS 앱과 데이터에 접근할 수 있다.

그는 이어 "둘째, 브라우저는 실제 사용자가 한 작업과 AI 에이전트가 자동으로 처리한 작업을 구별하지 못한다"고 설명했다. 보안 의식이 낮은 에이전트의 판단에 모든 것을 내맡기는 셈이다.


기존 보안 대책으로는 한계가 명확하다. 구글 크롬의 '세이프 브라우징'이나 마이크로소프트 엣지의 보호 기능 강화는 권장되지만, 이것만으로 근본 해결책이 되기는 어렵다. 따라서 기술 면에서는 프롬프트 인젝션 방지, 권한 분리, 감독 체계 강화 같은 보완이 필요하고, 운영 면에서는 AI 에이전트 사용 지침 마련, 직원 교육, 사용 범위 제한 등 조직 차원의 규칙 정비가 시급하다.

상황은 앞으로 더욱 심각해질 전망이다. 시장조사기관 가트너는 2028년까지 일상 업무의 최소 15%를 브라우저 AI 에이전트가 완료할 것으로 내다봤다.

전문가들은 새로운 접근법이 시급하다고 입을 모은다. 스퀘어엑스는 "기업들이 EDR(엔드포인트 탐지 및 대응) 없이는 기기 사용을 허용하지 않듯, BDR(브라우저 탐지 및 대응) 같은 브라우저 네이티브 보안 조치 없이 에이전트 사용을 방치해서는 안 된다"고 조언했다. 라마찬드란은 "미래의 인터넷은 AI 에이전트가 탐색하게 될 것"이라며 "AI 에이전트의 눈으로 안전한 브라우징이 무엇을 뜻하는지 다시 생각하는 패러다임 전환이 필요하다"고 강조했다.

'AI 에이전트가 인간보다 공격에 더 취약하다'는 사실을 전제로, 기술과 운영을 아우르는 다층 방어 체계를 갖추는 일이 앞으로 AI 시대의 핵심 과제로 꼽힌다.


박정한 글로벌이코노믹 기자 park@g-enews.com