AI 자율 공격 임박…‘iCounter’ 417억 투자 유치, 보안시장 격변 예고

구글 맨디언트 전 최고경영자 존 워터스가 지난 11일(현지시간) 악시오스 보도에서 인공지능(AI)을 이용한 맞춤형 사이버 공격이 수개월 내 나타날 수 있다고 경고했다. 워터스는 AI가 기업 시스템을 하이재킹하는 정교한 공격 방식이 기존 대량 공격 방식과 달리 기업별 취약점에 집중해 추적이 매우 어렵다고 밝혔다.

최근 발생한 세일즈로프트 AI 챗봇 ‘드리프트’ 해킹 사건도 AI가 무기화된 현실을 보여준다. 워터스가 창립한 보안 스타트업 ‘아이카운터’는 AI 위협 대응 도구 개발에 성공, 올해 7월 417억 원 규모 투자금을 확보하며 시장 주도권 확보에 나서고 있다.

자율 AI 에이전트, 기업 보안 최대 위협으로

존 워터스 전 CEO는 AI 자율 에이전트가 기업 내 AI 시스템을 빼앗아 내부 정보를 조작하거나 거래를 허위로 만들 가능성을 지적했다. 이 공격은 기존 대규모 공격과 달리 기업 특성에 맞춘 ‘제로데이’ 취약점을 노리는 반면, 추적은 극히 어렵다. 그는 보안업체들이 이런 미래 위협에 대응하기 위해 AI 기반 탐지 대응 솔루션 시장에 진입하고 있다고 밝혔다.
최근 살레스로프트(Salesloft) AI 챗봇 드리프트(Drift)의 보안 침해가 이를 방증한다. 폭로된 해킹은 AI 챗봇 인증 토큰 탈취에서 시작해 수백 개 기업의 클라우드 자격 증명, AWS 액세스 키 및 중요한 정보에 무단 접근하는 형태였다. 이러한 공격은 AI가 무기화하는 첫 사례로 받아들여진다.

AI-DR, 내년 RSA 컨퍼런스 핵심 키워드 되나

워터스가 창립한 보안 스타트업 ‘아이카운터’(iCounter)는 AI가 주도하는 보안 위협에 대응할 AI 기반 도구를 개발하며, 올해 7월 3000만 달러(417억 원)를 투자받았다. 그는 내년 샌프란시스코에서 열리는 글로벌 최대 보안행사 RSA 컨퍼런스에서 ‘AI 탐지 및 대응(AI-DR)’이 핵심 키워드가 될 것이라고 예상했다. AI-DR은 기존 보안 대응에서 한 단계 발전해 조직 내 AI 도구를 감시하며 해커가 이를 빼앗는 공격 행위를 탐지하는 기술이다.

가트너 보고서 "AI 보안 스타트업에 7억 3000만 달러 투자"

시장조사기관 가트너는 2022년 이후 AI 기반 탐지 및 대응 분야 스타트업에 7억 3000만 달러(약 1조 원) 이상 자금이 몰리고 있다고 밝혔다. 또한, 2028년에는 전체 AI 위협 탐지 도구 중 70%가 다중 에이전트 AI를 활용할 것으로 전망해, 공격과 방어가 더욱 첨예하게 맞붙을 전망이다. 국내에서도 한국벤처투자가 2024년부터 사이버 보안 분야에 투자를 확대하고 있다.

워터스 전 CEO는 "보안 격차는 적이 방어자보다 빠르게 혁신하는 데 있다. 지금은 적들이 앞서고 있다"며 사이버 보안 분야의 현실을 냉정하게 짚었다.


박정한 글로벌이코노믹 기자 park@g-enews.com