"믿었던 AI가 제멋대로 기밀 유출"…기업 80% '보안 구멍' 뚫렸다

스스로 사고하고 행동하는 'AI 에이전트'가 기업 현장에 빠르게 침투하고 있지만, 정작 통제 장치 미비로 기업 보안에 '빨간불'이 켜졌다. 글로벌 기업 10곳 중 8곳은 AI가 인간의 허락 없이 데이터를 열람하거나 외부로 유출하는 등 '돌발 행동'을 경험한 것으로 나타났다.

미국 기업용 신원 보안 전문업체 세일포인트(SailPoint)는 21일(현지시각) 이 같은 내용을 담은 'AI 에이전트: 새로운 공격 표면' 보고서를 발표했다.

사이먼 타이 세일포인트 홍콩·마카오·대만 대표이사는 이날 "조사 대상 기업의 80%가 AI 에이전트가 설계 의도와 달리 행동하거나 예상치 못한 작업을 수행했다"며 "이는 비인간(Non-human) 신원을 통제하는 기업 시스템에 심각한 결함이 있다는 증거"라고 말했다.


보고서는 시장조사업체 가트너의 데이터를 인용해 AI 에이전트 시장의 폭발적인 성장세를 조명했다. 2024년 기준 1% 미만이었던 기업용 소프트웨어 내 AI 에이전트 내장 비율은 오는 2028년 33%까지 치솟을 전망이다. 특히 단순 업무 보조를 넘어 일상적인 비즈니스 의사결정의 15%를 AI 에이전트가 직접 실행하게 된다.
이미 기업 현장에서는 'AI 침투'가 빠르게 진행 중이다. 세일포인트 조사 결과, 글로벌 기업의 82%가 IT 부서가 아닌 고객 서비스, 소프트웨어 개발, 영업, 마케팅, 인사 부서에서 AI 에이전트를 활용하고 있었다. 응답 기업의 98%는 내년 안에 전사적으로 AI 에이전트 배치를 확대하겠다는 계획을 내놨다.

문제는 '속도'와 '안전'의 불균형이다. 기업 92%가 "AI 에이전트 관리가 중요하다"고 답했지만, 실제 관련 보안 정책을 수립해 시행하는 곳은 44%에 그쳤다. 절반 이상의 기업이 아무런 안전장치 없이 고성능 AI를 사내망에 풀어놓은 셈이다.


부서 간 칸막이(Silo) 현상은 위기를 키우는 주범으로 지목됐다. IT 담당자의 71%는 "AI 에이전트가 사내 민감 데이터에 접근하고 있다"는 사실을 인지하고 있었지만, 이를 컴플라이언스(준법감시)팀이나 법무팀, 고위 경영진에게 보고하는 비율은 50%를 밑돌았다.

타이 대표는 "전통적인 기계적 프로그램과 달리 AI 에이전트는 스스로 학습하고 판단하며 여러 신원을 넘나드는 높은 권한을 가진다"며 "시스템 전반을 자유롭게 이동하기 때문에 기존 보안 도구로는 감시와 통제가 사실상 불가능하다"고 설명했다.
실제 기업 현장에서는 부작용이 속출하고 있다. 보고서에 따르면 기업 80%가 AI 에이전트의 무단 활동을 탐지했다. △허가받지 않은 데이터 열람 △외부에 민감 정보 무단 공유 △악의적인 제3자에게 접속 권한(자격 증명) 노출 등이 대표적인 사례다. 이는 기업의 규제 위반 리스크를 높일 뿐만 아니라, 고객에게 잘못된 정보를 제공해 기업 신뢰도를 떨어뜨리는 결과로 이어진다.


세일포인트는 AI 에이전트발(發) 보안 위협에 대응하려면 기존의 경계 방어 중심이 아닌, 실시간 신원 감시에 초점을 맞춘 '4대 거버넌스 전략'을 도입해야 한다고 제언했다.

첫째, '신원 생성 자동화'다. AI 에이전트를 도입하는 즉시 고유 신원을 부여하고 업무 범위와 책임 소재를 명확히 등록해 경영진이 모르는 '그림자 AI'를 원천 차단해야 한다.

둘째, '동적 신뢰 모델' 적용이다. 작업 수행에 딱 필요한 만큼만 권한을 부여하고, 업무가 끝나면 즉시 회수하는 '제로 스탠딩 권한(Zero Standing Privileges)' 원칙을 세워야 한다. 권한이 상시 활성화되어 있으면 해킹의 통로가 될 수 있기 때문이다.

셋째, '자동 방어 체계' 구축이다. 주기적으로 접속 암호(자격 증명)를 교체하고, 신원 위협 탐지·대응(ITDR) 도구를 활용해 의심스러운 행동이 감지되면 즉시 접속을 차단하는 복구 시스템을 마련해야 한다.

넷째, '완전한 추적성' 확보가 필요하다. AI 에이전트의 모든 활동을 기록하는 감사 로그를 남기고, 행동 분석을 통해 이들이 어떤 데이터를 열람하고 처리했는지 투명하게 검증해야 한다.

타이 대표는 "데이터가 곧 자산인 현대 비즈니스 환경에서 AI 에이전트의 권한을 통제하지 못하는 기업은 경쟁력을 잃을 수밖에 없다"며 "철저한 감사 추적과 접근 제한만이 AI의 효율성을 누리면서 보안 위협을 막는 유일한 해법"이라고 강조했다.


박정한 글로벌이코노믹 기자 park@g-enews.com