일반인 대상 딥페이크 성범죄물 확산…이번엔 1200명 가담

일반인을 대상으로 하는 딥페이크 범죄가 기승을 부리고 있다. 처음엔 유명인을 중심으로 피해자를 낳던 딥페이크 범죄 양상이 AI 기술이 정교해지면서 일반인으로 타깃을 옮기고 있는 것. 이에 AI 기본법 통과와 딥페이크 범죄에 대한 처벌을 강화해야 한다는 목소리가 높아진다.

20일 인천경찰청 사이버범죄수사대는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 해당 텔레그램 단체 대화방의 운영자 A씨를 수사 중이다. 현재까지 확인된 피해자는 총 30명이며 아직 확인되지 않은 이들까지 합하면 피해자 수는 더욱 늘어날 것으로 보인다.
해당 범죄는 딥페이크 기술을 이용해 특정 여학생들의 이미지와 목소리를 합성, 성적 허위영상물을 제작한 것으로 알려졌다. 해외에 본사를 두고 있어 추적이 어려운 '텔레그램' 단체 대화방을 통해 1200명의 인원이 범죄에 연루된 것으로 보인다.

피해자들은 해당 텔레그램 단체 대화방에 유포된 성적 허위영상물로 인해 모르는 이들로부터 "채팅방에서 봤다", "본인이 맞냐"는 등의 메시지와 욕설 전화를 받았다. 가해자 중 일부는 범죄를 뉘우치긴커녕 지인들을 대상으로 성적 허위영상물을 제작하고 "흉기로 지인들을 해치겠다"는 등의 협박까지 한 것으로 알려졌다. 현재 해당 피해자는 상당한 정신적 피해를 호소하고 있다.
지난 4월 서울대학교에서도 유사한 사건이 발생한 바 있다. 서울대 졸업생들이 대학 동문 등 여성 수십 명을 대상으로 딥페이크 기술을 악용해 성적 허위영상물 400여 개를 제작하고 1700여 개를 텔레그램에서 유포한 일이다. 이 사건으로 주범 강 모씨(31)와 박모 씨(40) 등을 포함한 총 4명이 재판받고 있다.

딥페이크 기술의 악용과 그로 인한 피해에 대해 해외는 AI 기본법을 제정하고 각종 규제와 제도를 잇따라 마련하며 촉각을 기울이고 있다. 대표적으로 미국 미시간 주 하원은 지난 6월 딥페이크 성적 허위영상물의 동의 없는 제작 및 유포를 금지하는 법안을 통과시켰다. 해당 법안은 딥페이크 이미지 및 영상 등을 만들고 공유하는 것에 대한 형사 처벌과 민사 책임을 규정하고 있다.

미국 외에도 유럽연합(EU), 영국, 호주, 인도 등 여러 국가가 딥페이크를 악용한 성적 허위영상물 및 이미지 제작을 법적으로 금지하며 이를 준수하지 않을 시 형사처벌을 받을 수 있다는 내용의 법을 잇따라 통과시키고 있다.

반면 우리나라 정부와 관계 부처, 제도 등 다방면에서 미흡한 모습을 보이고 있다. 유사 범죄가 반복되는 이유도 'AI 기본법'의 부재를 비롯한 정부의 미진한 태도가 첫 번째 이유로 꼽힌다.

익명을 요구한 업계 전문가는 "정부와 국회가 AI에 대한 관심은 높아 보이는 듯하지만 기술 악용이 낳는 폐해 등에 대해선 미지근한 태도를 보이고 있다"며 "앞서 언급한 두 사건만 해도 모두 피해자들이 직접 가해자 검거를 위해 수사에 나서지 않았나. 범죄 예방을 위한 기반 제도가 없으니 수사가 미진하고 동일한 범죄로 인한 피해자 양산이 반복되는 것"이라며 지적했다.

방송통신심의위원회(이하 방심위) 조사에 따르면 이러한 딥페이크 합성물 유포로 인한 피해는 매년 증가 추세에 있다. 딥페이크를 악용한 '성적 허위영상물'의 시정요구는 2021년 이후 매년 두 배 가까이 증가하고 있으며, 올해 상반기에만 6071건에 달해 전년도 수치를 넘어설 전망이다.

방심위는 "딥페이크 기술의 발전으로 일반인들도 손쉽게 AI 기술을 이용할 수 있게 됨에 따라 유명 연예인뿐만 아니라 일반인을 대상으로 한 '성적 허위영상물도 확인되는 상황"이라고 설명했다.

이어 "청소년을 대상으로 하는 딥페이크 합성물 유포 사건이 다수 발생하는 등 성적 허위영상물의 피해범위가 확장되고 있어 우려스럽다"며 "SNS 등에 대한 중점 모니터링을 지속적으로 실시해 관련 피해를 최소화하는 데 주력하겠다"고 덧붙였다.


편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com