미성년자 성적 이미지 생성 논란…그록 개발사 xAI, 집단소송 직면

일론 머스크가 이끄는 인공지능(AI) 스타트업 xAI가 챗봇 그록(Grok)을 통해 미성년자의 성적 이미지를 생성할 수 있도록 했다는 의혹으로 집단소송에 직면했다고 BBC가 17일(현지시각) 보도했다.

BBC에 따르면 미국 캘리포니아 연방법원에 젊은 여성 3명이 전날 xAI를 상대로 소송을 제기했다. 이들은 소장에서 자신들의 사진과 영상이 본인 동의 없이 조작돼 나체 또는 성적으로 노출된 형태로 생성·유포됐다고 주장했다. 이 가운데 2명은 18세 미만 미성년자로 알려졌다.
◇“AI로 성적 이미지 조작”…사생활·안전 침해 주장

원고 측은 소장에서 그록이 사용자 요청에 따라 실제 인물의 이미지를 성적으로 변형하는 기능을 제공했고 이 과정에서 미성년자 이미지까지 활용됐다고 주장했다.

특히 한 피해자는 인스타그램을 통해 익명의 메시지를 받고 자신이 등장하는 조작된 이미지와 영상을 확인했으며 이 자료에는 고등학교 졸업앨범 사진까지 포함된 것으로 전해졌다.

이 이미지들은 디스코드 서버 등에서 공유됐고 최소 18명 이상의 미성년 여성 이미지가 같은 방식으로 조작됐다고 원고 측은 밝혔다.

원고 측 변호인은 “피해자들은 사생활과 존엄, 개인의 안전을 심각하게 침해당했다”고 주장했다.
◇“사용자 요청 따른 것” 해명에도 규제 압박 확대

그록은 xAI가 개발한 챗봇으로 머스크가 개인적으로 소유한 소셜미디어 X에 탑재돼 있다.

xAI는 논란과 관련한 공식 입장을 밝히지 않았지만 머스크는 앞서 “그록은 사용자 요청에 따라 이미지를 생성할 뿐”이라며 책임을 사용자 측에 돌린 바 있다.

그러나 문제의 기능은 지난해 ‘스파이시 모드’로 불린 이미지 생성 기능이 도입되면서 본격화된 것으로 알려졌다.

당시 이 기능은 실제 인물의 옷을 벗긴 것처럼 보이게 하는 이미지 생성까지 가능해 논란이 됐다.

◇“2주 만에 수만건 생성”…각국 규제 착수

비영리단체 디지털혐오대응센터(CCDH)에 따르면 해당 기능 출시 이후 2주 만에 수백만건의 성적 이미지가 생성됐고 이 중 2만건 이상이 미성년자 관련 이미지로 추정됐다.

이같은 논란이 확산되면서 영국 통신 규제기관 오프컴, 유럽연합(EU), 미국 캘리포니아주 당국 등은 조사에 착수했다.

X는 이후 기술적 조치를 통해 해당 기능을 제한하겠다고 밝혔지만 관련 문제는 계속 제기되고 있다.

한편, 수사당국은 이번 사건과 관련된 디스코드 운영자를 체포했으며 이 인물은 텔레그램과 파일공유 플랫폼 등을 통해 다수의 아동 성적 이미지 파일을 유통한 혐의를 받고 있는 것으로 전해졌다.


김현철 글로벌이코노믹 기자 rock@g-enews.com