[글로벌-Biz 24] AI기술 활용 얼굴, 목소리 합성 '딥 페이크' 사이버 범죄 급증

사이버 공격에 대한 인공지능(AI)의 오용은 비약적으로 증가하고 있다. 사람으로부터 얻은 데이터만으로 완벽한 가짜 인물을 구현하는 등 인공지능이 만들어낸 가상현실은 사이버상의 특히 큰 위협이라고 시큐리티인사이더가 26일(현지시각) 분석 보도했다.

런던대학 보고서에 따르면 '딥 페이크(deep fake)'는 사이버 범죄자와 테러리스트들이 사용할 것으로 가장 우려되는 AI 기술이다.
독일 회사의 영국 지사 경영진은 본사로부터 전화를 받았다. 강한 독일 사투리를 가진 자신감 있는 목소리가 영어로 울려 퍼졌다. 전화를 받는 사람은 말투로 상대방이 누구인가를 알아챘다. 영국 지사는 그의 지시를 받아 헝가리에 22만 유로를 긴급 송금했다. 그러나 상대방은 본사 사람이 아니었고 영국 지사는 인공지능의 속임수에 넘어갔다.

이제 인공지능은 사투리, 억양, 그리고 서라운드 사운드를 포함한 즉흥적인 대화에서 실물과 같은 사람의 목소리를 실시간으로 흉내낼 수 있다.

할리우드 영화 스튜디오와 연예계에서 인공지능을 통한 말과 비디오 합성은 새로운 것이 아니다. 코미디언들이 심야 방송을 통해 아놀드 슈와제네거, 톰 크루즈를 흉내낼 때 시청자들은 웃음을 터뜨린다. 실제 인물과 구분하기 어렵다.

합성 비디오와 합성 음성은 사이버 범죄자들이 이용할 수 있는 수단을 크게 확대한다. 그 기술이 남용될 가능성은 충분하다.

지난 여름 열린 유로그래픽 회의에서 디즈니리서치스튜디오는 ETH취리히와 협력해 관련 기술을 발표했다. 인공지능은 고해상도의 비디오 클립에서 한 사람의 모습을 다른 사람에게 전달하는 것을 완성했고 딥 페이크나 딥 페이스와 같은 대체 솔루션의 정밀도를 크게 높였다.

어도비와 엔비디아는 오디오와 비디오 합성에 대한 고급 기술을 보유하고 있다. 어도비 오디오는 고급 음성 합성 기능의 대표적인 오디오 편집 소프트웨어다. 스크립트 텍스트를 편집하기만 하면 실제와 유사한 오디오 녹음으로 변경할 수 있다. 어도비는 이 기술이 잘못 이용되면 큰 피해를 줄 수 있다는 것을 인식해, 합성된 오디오의 진위를 탐지할 수 있도록 노력을 기울이고 있다.
보안 전문업체 시만텍은 지난 한 해 동안 세 건의 사이버 절도 사건을 보고했다. 회사의 인공지능 책임자인 가드너는 "딥 페이크가 AI 세계에서 우리가 해결해야 할 가장 큰 위험이다. 무엇이 진짜인지 알지 못한다면 어떤 결정도 내릴 수 없게 된다“고 주장했다.

가시적인 위협은 딥 페이크라는 단순한 아이디어가 현실을 가짜로 만드는데 오용될 수 있다는 점이다. 캘리포니아 버클리 대학의 인공지능 연구원들은 딥 페이크가 2020년에 정부와 기업의 위기를 촉발하고 최대 25억 달러의 자산을 파괴할 수 있다고 추정했다.

딥 러닝 인공지능 시스템은 창의적인 결과물을 만들어내기 위해 훈련 데이터가 필요하다. 잘 알려진 인물일수록 공공 영역에서 더 많은 오디오와 비디오 자료를 자유롭게 얻을 수 있고, 말과 이미지를 합성하는 것이 쉽다. 전 세계적으로 10억 대의 네트워크 감시 카메라가 가동되기 때문에 타인에 대한 데이터의 습득은 더 수월해진다.

인공지능 연구기관인 오픈의 잭 클락 이사는 "인공지능이 빠른 속도로 발전함에 따라 딥 페이크의 합성이 이른 시일 안에 개선되고, 저렴해지며, 쉬워질 것으로 예상된다"고 말했다. 그는 이 기술의 오남용과 범죄를 막기 위해 정부가 딥 페이크를 정확히 인식할 수 있는 기술 개발에 투자해야 한다고 주장했다.


조민성 글로벌이코노믹 기자 mscho@g-enews.com