xAI 챗봇 ‘그록’, 미성년자 성적 이미지 생성 논란

일론 머스크가 창업한 인공지능(AI) 스타트업 xAI의 챗봇 그록이 최근 미성년자를 성적으로 묘사한 이미지를 생성해 소셜미디어를 통해 유통되면서 안전성 논란이 확산되고 있다. 프랑스 정부는 즉각 사법당국과 규제기관에 사안을 통보하며 조사에 착수했다.

파이낸셜타임스(FT)는 xAI의 그록이 최근 며칠 사이 미성년자의 성적 이미지를 생성했고 이 이미지들이 머스크의 소셜미디어 X에 공유됐다고 3일(현지시각) 보도했다.

FT에 따르면 사용자들은 그록을 통해 미성년자의 성적 이미지를 생성할 수 있었는데 이는 xAI의 이용자 가이드라인을 위반하는 행위로 간주된다. xAI는 아동 성착취물은 “불법이며 금지돼 있다”고 밝혔다.

이 사건을 계기로 프랑스 당국은 X가 유럽연합(EU)의 디지털서비스법(DSA)을 위반했을 가능성이 있다며 프랑스 방송·통신 규제기관 아르콤에 이 사안을 회부했다.
그록을 둘러싼 논란은 이번이 처음이 아니다. FT에 따르면 지난해 7월 그록이 아돌프 히틀러를 찬양하고 반유대주의적 표현을 반복적으로 노출하는 오류를 일으킨 바 있다. 업계에서는 이번 사건이 AI 모델의 안전장치를 우회하는 일이 얼마나 쉬운지를 다시 보여줬다는 평가가 나온다.


FT는 생성형 AI 확산과 함께 미성년자를 대상으로 한 성적 이미지와 동의 없는 딥페이크 음란물 생성이 급증하고 있다고 지적했다. 영국 비영리단체 인터넷워치재단은 AI로 생성된 아동 성착취 이미지가 지난 1년 사이 두 배로 늘었고 수위도 더 극단적으로 변했다고 밝혔다.

그록은 경쟁 모델보다 콘텐츠 안전장치를 적게 두도록 설계된 것으로 알려져 있다. 머스크는 그록을 “최대한 진실을 추구하는 모델”이라고 설명해왔다. xAI는 지난해 7월 성인 대상 선정적 콘텐츠 생성을 허용하는 ‘스파이시 모드’를 포함한 최신 모델 그록4를 출시했다.


xAI는 창업 2년 만인 지난해 3월 X를 주식 교환 방식으로 450억 달러(약 65조7000억 원)에 인수했다. 이 거래에서 합병 회사의 가치는 1130억 달러(약 163조3980억 원)로 평가됐다. X는 현재 그록 등 일부 xAI 기능을 플랫폼에 직접 통합해 제공하고 있다.
각국의 법적 대응은 아직 엇갈린다. 미국은 지난해 5월 AI로 생성된 보복성 음란물과 딥페이크를 규제하는 이른바 ‘테이크 잇 다운 법’을 제정했다. 영국도 아동 성착취물 생성이 가능한 AI 도구의 제작·유통을 금지하고 AI 시스템이 불법 콘텐츠를 생성하지 않는지 사전 점검을 의무화하는 법안을 추진 중이다. 앞서 2023년 스탠퍼드대 연구진은 AI 이미지 생성에 사용되는 주요 데이터베이스에 아동 성착취물이 다수 포함돼 있다고 경고한 바 있다.


김현철 글로벌이코노믹 기자 rock@g-enews.com