[초점] “AI 해킹, 기업 방어 무력화…‘제로데이’ 18건·1000대 PC 정보 유출 위험”

인공지능(AI)의 고도화가 해킹 기법을 혁신하며 새로운 ‘전성기’를 열고 있다.

범죄 해커들이 AI를 마법사의 견습생처럼 활용해 구글 캘린더 초대나 아웃룩 이메일 같은 단순한 수단만으로도 연결된 AI 프로그램을 속여 민감 파일을 무단 삭제·전송하도록 조작하고 있다고 지난 20일(현지시각) 워싱턴포스트가 전했다.

보도에 따르면, 지난달 한 해킹 조직은 코딩 도구 플랫폼 ‘Nx’에 공식 패키지로 위장한 악성 소프트웨어를 올려 수십만 명이 내려받도록 유도했다. 이 가운데 구글·앤트로픽 등 주요 AI 개발사의 코드 작성 도구가 설치된 약 1천여 대의 컴퓨터에서 암호화폐 지갑 비밀번호와 기업 데이터베이스 접근 정보가 외부로 유출됐다.

NCC 그룹의 수석 보안 분석가 데이브 브라우클러는 라스베이거스 보안 컨퍼런스에서 “고객사 AI 도우미를 속여 데이터베이스와 코드 저장소 내용을 그대로 복제해 나왔다”고 밝혔다. 그는 “기업 현장에서 승인 절차를 생략한 AI 도구 도입은 내부망 보안 구멍을 키우는 일”이라고 말했다.
엔도르 랩스(Endor Labs) 연구원 헨릭 플레이트는 “이번 공격은 해커가 피해자 AI 자체를 가로채려 시도한 첫 사례”라고 설명했다. 미 국방고등연구계획국(DARPA) 후원 콘테스트에서 7개 팀이 5400만 줄의 오픈소스 코드에서 18개 ‘제로데이’ 취약점을 찾아냈다. 해커들은 비슷한 시스템으로 결함을 발견해 해킹에 악용하려는 시도를 지속하고 있다.

크라우드스트라이크 수석 부사장 아담 마이어스는 “앞으로 AI가 내부 위협으로 떠오를 것”이라고 경고했다. 사람 감독 없이 업무를 수행하고 네트워크 약점을 찾아내는 자율 AI가 확산되면 방어 체계 설계와 운영은 더욱 복잡해질 전망이다.

보안 업계는 AI가 자동으로 취약점을 찾아 고치고, 악성 AI 행동을 가려내는 ‘사이버 추론 시스템’ 개발에 속도를 내고 있다. 그러나 전문가들은 “AI 도입 속도가 보안 강화 속도를 앞서는 만큼, 도입 전 보안 설계부터 다시 들여다봐야 한다”고 조언했다.


박정한 글로벌이코노믹 기자 park@g-enews.com