딥페이크는 일부일 뿐, AI 앱·유통망·프롬프트까지 노리는 사이버 위협

IT 연구·자문 회사 가트너가 올해와 내년 주요 사이버 위협 요소들을 발표했다. 딥페이크 음성 외에도 AI 앱과 유통망, 프롬프트 침해 등 다양한 형태의 사이버 공격 방식들이 거론됐다.

가트너는 현재 인터넷 환경에서 벌어지는 사이버 공격의 방식들을 정리하고 해당 공격 방식에 대해 확인할 수 있는 정보의 양과 질을 뜻하는 '위협 신호(Signals from threat actors)', 기업과 기관 등이 해당 위협에 대응할 수 있는 일반적인 역량 수준을 나타내는 '대응 역량(Threat advantage)' 두 가지 지표에 따라 각 방식의 위험도를 구분했다.

이러한 구분에 따라 위협 신호를 다수 파악할 수 있으면서도 조직 차원에서 대응이 어려운 4가지 방식으로 △딥페이크 △AI 앱 침해 △프롬프트 주입 △소프트웨어 유통망 위협 등 4가지를 지적했다.

딥페이크는 이미지와 음성, 영상 등을 활용한 사칭이나 사기 등의 형태로 기존에도 자주 활용된 사이버 공격 방식이다. 가트너는 AI 기술 발전으로 딥페이크 콘텐츠를 실시간으로 생성, 사칭하는 것이 가능해졌다고 지적했다. 이에 따라 조직의 신원 검증 과정에서 기존의 딥페이크 탐지, 맥락 기반 신호 탐지 방식을 넘어 보다 다층적인 통제 수단을 구축할 것을 권했다.

AI 앱 침해 방식이란 기업, 기관용 AI 도구와 서비스를 직접적으로 겨냥하는 공격 방식을 뜻한다. 기업의 AI 서비스 수요가 증가함에 따라 자체적으로 개발한 AI 앱이나 에이전트는 물론 서드파티 앱 사내 AI로 활용하는 사례가 늘고 있는 만큼 이에 발맞춰 보안 역량을 확대해야 한다는 것이 가트너 측의 설명이다.

프롬프트 주입이란 AI 활용 과정에 악의적으로 조작된 프롬프트(시스템이 다음 명령이나 메시지)를 주입하는 방식을 일컫는다. 이를 통해 AI 서비스가 일반적으로 할 수 없는 작업을 실행하도록 유도하거나 민감한 정보를 외부에 유출하도록 유인하는 방식이다. 단순히 AI 앱, 서비스를 공격하는 것을 넘어 거대 언어모델(LLM)의 맹점을 이용한 방식인 만큼 AI 입력 값을 검증하고 LLM의 비정상적 행동 탐지하는 등의 체계를 갖춰야 된다.

소프트웨어 유통망 위협은 기업과 기관이 소프트웨어를 공급받는 과정에 악성 코드 등을 유입시키는 유형이다. AI의 발전으로 오픈소스 소프트웨어를 활용하는 사례가 증가함에 따라 이러한 공격 시도가 늘어날 수 있다. 이를 막기 위해 소프트웨어 BOM(자재 명세서)와 저장소의 안전성을 검증하고 권한 기반 접근 통제 시스템을 구축하는 형태로 대응해야 된다.


이원용 글로벌이코노믹 기자 wony92kr@naver.com