"아이 사진 함부로 업로드하지 마세요!" AI로 손쉬워진 아동 포르노 제작

생성형 인공지능(AI)이 일상생활에 빠르게 침투하면서 사회관계망서비스(SNS)가 새 위험에 직면했다. 생성형 AI로 누구든지 손쉽게 가상의 AI 사진을 만들 수 있게 되면서 포르노 시장에 접목되기 시작한 것이다. 여기서 한발 더 나아가 AI가 아동 포르노 제작에 적극 사용되고 있어 SNS에 사진을 게재할 때 더욱 주의해야 하게 됐다.

생성형 AI는 오픈AI의 챗GPT나 구글의 바드(Bard), 마이크로소프트의 빙(Bing) 등으로 국내에서도 친숙하다. 나아가 이미지를 묘사하는 단어만으로 그에 걸맞은 이미지를 생성해주는 미드저니(Midjourney), 스테이블 디퓨전(Stable Diffusion) 같은 프로그램도 이미 일반인들이 폭넓게 사용하고 있다.

이 같은 생성형 AI를 사용하면 누드 사진의 얼굴 부분을 특정 인물의 얼굴로 바꿔 가짜 이미지를 만드는 딥페이크(Deep Fake)도 순식간에 만들 수 있다. 이미 유명 연예인이나 정치인, 스포츠맨 등의 가짜 이미지가 온라인에 판치고 있다.


문제는 포르노 배우의 몸에 예쁜 일반인의 사진을 합성하거나 아이의 사진으로 아동 포르노 콘텐츠를 만드는 등의 활동이 크게 증가하고 있다는 점이다. 생성형 AI로 관련 이미지와 영상 제작이 쉬워졌고, SNS에 올라온 각종 추억 저장용 이미지들이 포르노 이미지 재료로 사용되고 있다.

아동 포르노 시장에 이런 이미지들이 활발하게 사용되고 있어 주의를 요한다. 무엇보다 생성형 AI와 포르노의 조합은 SNS라는 황금 어장을 만나 빠르게 확산되고 있다. 세이브더칠드런이 만 11세 미만 세 자녀를 둔 부모 중 3개월 이내에 SNS에 콘텐츠를 게시한 경험이 있는 부모 1000명을 대상으로 조사한 결과 86.1%의 부모가 자녀의 사진이나 영상을 SNS에 게시하고 있는 것으로 나타났다.

한국언론진흥재단이 2021년 소셜미디어 이용자를 대상으로 조사한 결과에 따르면 친구의 최신 소식을 알고 싶어서 SNS를 이용하는 비율이 50%가 넘는다(페이스북 53.6%, 인스타그램 59.7%, 트위터 46.7%). 문제는 상당수의 SNS 이용자가 게시물 공개 범위를 전체 공개로 설정하고 있다는 점이다. 그 때문에 이를 악용하려고 하면 손쉽게 미성년자의 사진과 동영상, 특히 어린 시절의 누드 사진을 얻을 수 있다.

일전에 워싱턴포스트가 소아성애자들이 활동하는 한 다크웹 포럼 회원 3000명을 대상으로 설문조사를 한 결과 응답자의 약 80%가 아동 성적 학대 이미지를 만들기 위해 AI 기능을 사용했거나 사용할 의도가 있다고 답해 충격을 안겨줬다. 이렇게 생성된 아동 포르노 콘텐츠는 영구 삭제되지 않은 채 전 세계 웹상에 남아있게 된다.

메타(前 페이스북) 창업자인 마크 저커버그는 가족 사진을 페이스북에 게재할 때 아이들의 얼굴을 가리고 올린다. 미성년자로 자신의 얼굴을 온라인에 공개하는 것에 대한 자기결정권이 없는 아이의 사생활을 보호하고자 한 행동으로 보인다. AI를 활용한 아동 포르노 콘텐츠 규제가 한시바삐 입법돼야겠지만 그에 앞서 SNS 이용자 스스로 SNS에 올리는 사진과 동영상에 대해 주의할 필요가 있다.


이상훈 글로벌이코노믹 기자 sanghoon@g-enews.com