18일(현지시간) 와이어드에 따르면 여러 국가의 사법기관들이 텔레그램 플랫폼에서 미성년 소녀들의 노골적인 이미지를 연출하는 데 사용된 것으로 추정되는 딥페이크(인공지능 영상 합성) 봇의 활동을 들여다보고 있다. 이탈리아의 데이터 보호 규제 당국도 조사를 개시했고, 애플의 iOS에서는 봇에 대한 접근이 제한됐다.
텔레그램은 여성의 누드 이미지를 자동으로 만들어내는 딥페이크 봇을 저지하지 못했다고 비판받고 있다. 이 봇은 2019년 처음 만들어진 딥누드 AI 도구를 사용해 여성의 사진에서 옷을 벗기고 신체 일부를 생성한다. 누구나 쉽게 봇을 사용하여 이미지를 생성할 수 있다. 10만 개 이상의 이미지들이 봇에 의해 공개적으로 공유됐다. 이와 관련된 몇몇 텔레그램 채팅 채널들이 공유되었다. 이들 채널에는 각각 수만 명의 멤버가 포진했다.
보안업체 센시티의 연구원들이 올해 초 텔레그램에서 봇을 발견하고 그사실을 텔레그램 측에 보고했다. 그러나 텔레그램은 봇에 대한 적절한 조치를 취하지 않았다.
센시티가 지난 10월 봇의 존재를 공개한 이후 이미지를 공유했던 그룹들은 이를 숨기고 수면 아래로 사라졌다. 봇을 사용했던 여러 집단이 정체를 피하려고 이름을 바꿨다. 현재 많은 채널들이 전반적으로 딥페이크 기술과 관련된 다른 콘텐츠를 공유하고 있으며, 봇이 만든 누드 이미지의 공개 갤러리는 주인에 의해 지워졌다. 일부 채널은 완전히 사라졌다.
그러나 봇은 여전히 존재하고 있으며 작업은 계속되고 있다. 센시티의 패트리니 CEO(최고경영자)는 "봇은 그 누구에게도 파괴된 적이 없다. 봇은 여전히 작동하고 있다“고 밝혔다.
지난 10월 말 애플은 텔레그램 AI봇을 차단했다. 아이폰과 아이패드에서 접속이 불가능해졌고 ‘애플 개발자 가이드라인 1.1절을 위반한다’는 메시지만 보여준다. 앱 스토어를 통해 접근 가능한 앱에는 '역방향 성행위나 음란물'이 허용되지 않는다는 게 애플의 규정이다. 텔레그램의 메시지는 이후 봇을 표시할 수 없다는 일반적인 경고로 대체되었다.
텔레그램은 문제가 있는 콘텐츠로 오래 전부터 곤욕을 치르고 있다. 2017년 7월에는 인도네시아가 테러 관련 콘텐츠를 금지하겠다고 텔레그램에 통보했다. 애플도 플랫폼에서 부적절한 콘텐츠를 발견한 뒤 2018년 앱스토어에서 일시적으로 삭제했다. 이번 이미지합성 선정적 콘텐츠로 텔레그램의 콘텐츠 정책은 다시 도마 위에 올랐다. 이탈리아 개인사생활 보호단체는 지난달 23일 텔레그램에 대한 조사를 개시하고 텔레그램 측에 자료 제공을 요구했다.
조민성 글로벌이코노믹 기자 mscho@g-enews.com
