“당신 회사의 AI, 해커의 스파이 될 수 있다”…가트너 “AI 브라우저 즉각 셧다운” 경고

글로벌 정보기술(IT) 리서치 기업 가트너(Gartner)가 기업 보안이 통제 가능한 수준에 이를 때까지 사내 ‘AI 브라우저’ 사용을 전면 중단해야 한다고 강력히 권고했다. 생성형 AI의 편의성이 오히려 해커에게 기업 내부망을 여는 ‘디지털 만능키’가 될 수 있다는 지적이다.

인포시큐리티매거진은 지난 9일(현지시각) 가트너가 발행한 ‘사이버 보안은 당분간 AI 브라우저를 차단해야 한다(Cybersecurity Must Block AI Browsers for Now)’ 제하의 보고서를 인용해 이같이 보도했다.

가트너는 이번 보고서에서 생성형 AI(Generative AI) 기능을 탑재한 웹 브라우저가 사용자 경험(UX) 극대화를 위해 보안 설정을 지나치게 느슨하게 설계한 점을 핵심 문제로 지목했다. 보고서 작성자들은 “현재의 AI 브라우저 기본 설정은 보안보다 편의성을 앞세우는 경향이 짙다”며 “기업의 민감한 데이터가 외부 클라우드로 유출되거나, AI 에이전트가 해커의 기만전술에 넘어가 내부망 접속 권한을 내어주는 치명적 사태가 발생할 수 있다”고 경고했다.


가트너가 지적한 위험 시나리오는 구체적이고 치명적이다. 보고서는 AI 브라우저가 안고 있는 대표적인 위험으로 ▲악성 코드를 통한 간접 신속 주입(Prompt Injection) ▲AI의 부정확한 추론에 따른 오작동 ▲피싱 사이트 접속을 통한 자격 증명 탈취 등을 꼽았다.
가장 우려되는 대목은 AI 에이전트의 ‘판단 오류’다. 예를 들어 기업의 구매 업무를 대행하는 AI 에이전트가 잘못된 정보를 학습해 터무니없이 비싼 항공권을 예약하거나, 해커가 심어놓은 악성 링크를 정상적인 업무 지시로 착각해 실행하는 경우다. 또한, 직원이 AI 브라우저에 업무를 위임하는 과정에서 기업의 민감한 내부 데이터가 AI 서비스 제공업체의 클라우드 서버로 전송되는 데이터 유출 사고도 빈번하게 일어날 수 있다.

가트너는 “모든 위험을 완벽하게 제거할 가능성은 낮으며, AI 에이전트의 오작동은 기업에 지속적인 골칫거리가 될 것”이라며 “위험 감수성이 낮은 조직은 장기적으로 AI 브라우저 사용을 원천 봉쇄해야 할 수도 있다”고 분석했다.


보안 업계에서는 가트너의 이번 권고가 시의적절하다는 평가가 지배적이다. 최근 AI 브라우저의 구조적 취약점을 노린 신종 해킹 기법이 잇따라 발견됐기 때문이다.

지난 10월 브라우저 보안 기업 스퀘어엑스(SquareX)는 퍼플렉시티(Perplexity)나 챗GPT 서치와 같은 AI 기반 검색 도구가 악성 워크플로 실행이나 신뢰할 수 없는 앱 오용에 취약하다는 연구 결과를 내놓았다.
이어 지난달에는 보안 기업 케이토 네트웍스(Cato Networks)가 ‘해시잭(HashJack)’이라는 새로운 공격 유형을 공개해 충격을 안겼다. 해시잭은 공격자가 합법적인 웹사이트의 URL에 악성 코드를 몰래 삽입하는 방식이다. 사용자가 이 URL을 AI 브라우저로 열면, 브라우저는 웹사이트 내용을 요약하거나 분석하는 과정에 숨겨진 악성 명령어를 실행하게 된다. 이를 통해 해커는 사용자에게 허위 정보를 전달하거나 피싱 사이트로 유도해 개인 정보를 빼낼 수 있다.


전문가들은 AI 브라우저의 확산을 막을 수 없는 만큼, 무조건적 차단보다는 정교한 관리 전략이 필요하다고 조언한다.

보안 교육 기업 노비포(KnowBe4)의 자바드 말릭 보안 인식 선도 옹호자는 “AI 에이전트형 브라우저는 생산성을 높여주지만, 초기 단계인 만큼 보안 검증이 부족하다”며 “편의성과 보안 사이의 긴장 관계가 새로운 사이버 보안 화두로 떠올랐다”고 말했다.

말릭 옹호자는 이어 “전면적인 금지 조치는 장기적으로 지속 가능한 전략이 되기 어렵다”고 짚었다. 그는 “대신 기업은 브라우저 전체를 막기보다 구동되는 개별 AI 서비스를 평가하는 위험 관리 체계를 갖춰야 한다”며 “기업의 위험 수용 범위에 맞춰 AI 에이전트를 선별하고 보호하는 ‘보안 플레이북’을 개발하는 것이 현실적인 대안”이라고 강조했다.


한국은 세계에서 AI 도입 속도가 가장 빠른 국가 중 하나다. 삼성전자, SK하이닉스 등 주요 대기업은 물론 금융권과 스타트업까지 업무 생산성을 높이기 위해 생성형 AI 도구를 경쟁적으로 도입하고 있다. 그러나 가트너의 이번 경고는 ‘속도’에 취해 ‘안전’을 놓치고 있는 한국 기업들에 뼈아픈 조언이 된다.

특히 국내 기업 환경은 보안보다 ‘빠른 업무 처리’를 미덕으로 여기는 경향이 짙다. 직원이 편의를 위해 검증되지 않은 AI 브라우저 확장 프로그램을 무분별하게 설치하거나, 기밀문서를 AI 번역기에 통째로 입력하는 사례가 여전히 빈번하다. 이는 반도체, 배터리 등 국가 핵심 기술이 해외 클라우드 서버로 유출되는 ‘디지털 누수’로 이어질 수 있다.

단순히 사내망에서 특정 사이트를 차단하는 1차원적인 방식으로는 한계가 있다. 지금 필요한 것은 기업별 업무 특성에 맞춘 ‘한국형 AI 보안 가이드라인’이다. 어떤 데이터를 AI에 입력해도 되는지, 어떤 AI 브라우저가 보안 인증을 통과했는지 명확한 기준을 세워야 한다. 기술 유출은 한 번 발생하면 돌이킬 수 없다. 혁신 도구를 받아들이되, 그 칼날이 우리를 겨누지 않도록 하는 정교한 통제 장치 마련이 시급한 시점이다.


박정한 글로벌이코노믹 기자 park@g-enews.com