美 샌프란시스코, 애플·구글에 ‘누디파이 앱’ 퇴출 압박

미국 샌프란시스코시가 사진 속 인물의 옷을 벗긴 것처럼 조작하는 이른바 ‘누디파이’ 앱을 앱 장터에서 삭제할 것을 애플과 구글에 요구했다.

인공지능(AI)으로 당사자의 동의 없이 성적인 딥페이크 이미지를 생성하는 앱을 계속 유통하고 결제까지 처리해온 책임을 양사에 묻겠다는 것이다.

18일(이하 현지시각) 테크크런치에 따르면 샌프란시스코시는 애플 앱스토어와 구글 플레이스토어에 올라온 누디파이 앱 수십 개를 삭제하라는 내용의 서한을 전날 양사에 보냈다.

샌프란시스코시는 양사가 문제 앱을 일부 삭제하고도 유사한 앱의 유통과 결제를 충분히 차단하지 않았다며 법 위반에 따른 민사 제재 가능성도 경고했다.

누디파이 앱은 일반 사진을 AI로 조작해 사진 속 인물이 옷을 입지 않은 것처럼 만들거나 성적인 이미지에 얼굴을 합성하는 프로그램이다.

유명 여성 연예인이 주요 표적이 돼왔지만 앱 이용자는 인터넷이나 소셜미디어에 공개된 사진만 확보하면 일반인도 대상으로 삼을 수 있다.

샌프란시스코시는 이들 앱이 여성과 소녀를 착취하고 비동의 성적 이미지를 만드는 데 사용되고 있다고 지적했다.

데이비드 치우 샌프란시스코 검사장은 “애플과 구글이 여성과 소녀를 착취하는 앱에서 이익을 얻고 있다”고 비판했다.

그는 양사가 일부 문제 앱과 관계를 끊었지만 성적 학대를 막으려면 앱 장터를 더 적극적이고 지속적으로 감시할 책임이 있다고 강조했다.

샌프란시스코시 검사장실은 애플과 구글이 문제 앱에서 이뤄지는 불법 구매의 결제 처리와 관련해 약 1년 전부터 경고를 받아왔다고 주장했다.

검사장실이 보낸 서한에 따르면 양사는 자사 앱 장터에 비동의 성적 딥페이크를 판매하는 앱이 있다는 사실을 여러 차례 통보받았다.

기술감시단체 테크 트랜스퍼런시 프로젝트는 지난 1월과 4월 애플과 구글에 관련 조사 결과와 서한을 보냈다.

조사에서는 양사 앱 장터에 결제를 받고 비동의 성적 이미지를 생성하는 앱이 수십 개 남아 있는 것으로 나타났다.

4월 조사에서는 앱 장터의 검색과 광고 시스템이 이용자를 관련 앱으로 유도했다는 지적도 제기됐다.

테크 트랜스퍼런시 프로젝트는 애플과 구글을 실제 인물을 성적인 이미지로 바꾸는 AI 도구 확산의 주요 참여자로 규정했다.


캘리포니아주법은 비동의 딥페이크 음란물 제작을 알고도 돕거나 무모하게 방조하는 행위를 범죄로 규정하고 있다.

캘리포니아주는 지난해 피해자가 비동의 성적 딥페이크 제작을 도운 제3자를 상대로 민사소송을 제기할 수 있도록 하는 법률도 마련했다.

샌프란시스코시는 애플과 구글이 앱을 유통하는 데 그치지 않고 인앱 결제를 처리해 수익을 얻었다는 점을 문제 삼았다.

치우 검사장은 “두 회사가 누디파이 기능을 제공하는 앱에서 받은 수수료가 수백만달러에 이를 가능성이 있다”고 주장했다.

검사장실은 양사가 법을 위반한 것으로 판단될 경우 민사상 제재를 받을 수 있다고 경고했다.

애플과 구글에는 28일 안에 샌프란시스코시와 접촉해 관련 문제에 대한 대응 방안을 밝히라고 요구했다.


애플은 누디파이 앱이 자사 앱스토어에서 허용되지 않는다고 밝혔다.

애플 대변인은 샌프란시스코시가 지목한 앱 가운데 3개를 삭제했으며 해당 앱을 운영한 개발자들의 계정을 종료하는 절차를 진행하고 있다고 설명했다.

다른 앱 4개의 개발자에게는 앱스토어 정책 위반 사항을 바로잡으라고 요구했다.

애플은 이들 개발자가 문제를 해결하지 않으면 해당 앱 역시 앱스토어에서 삭제하겠다고 밝혔다.

다만 샌프란시스코시는 개별 신고를 받은 뒤 앱을 삭제하는 방식만으로는 유사 앱의 반복적인 유통을 막기 어렵다는 입장이다.


구글은 샌프란시스코시의 서한에 적시된 구글 플레이 앱 5개를 모두 정지했다고 밝혔다.

구글 대변인은 정책 위반 신고가 접수되면 조사한 뒤 신속하게 조처하고 있다고 설명했다.

구글은 그동안 누디파이 기능을 제공한 앱 수백 개를 정지했으며 앱 장터에서 ‘누디파이’와 같은 검색어의 사용도 제한했다고 밝혔다.

애플과 구글 모두 성적인 콘텐츠나 타인을 성적으로 대상화하는 앱을 금지하고 있다.

그러나 조사단체들은 양사가 관련 앱을 반복적으로 승인하고 검색 결과와 광고를 통해 노출하면서 자체 정책을 충분히 집행하지 않았다고 지적하고 있다.

샌프란시스코시의 이번 요구는 비동의 딥페이크 제작자뿐 아니라 앱 유통과 결제를 담당하는 플랫폼에도 법적 책임을 묻겠다는 조치다.


김현철 글로벌이코노믹 기자 rock@g-enews.com