유럽연합, 머스크의 X 챗봇 그록 조사 착수…디지털서비스법 위반 여부 점검

유럽연합(EU)이 일론 머스크가 소유한 소셜미디어 X를 상대로 인공지능(AI) 챗봇 ‘그록’과 관련한 공식 조사에 착수했다.

그록이 생성한 성적 딥페이크 이미지가 확산되면서 이용자 보호 의무를 제대로 이행했는지가 핵심 쟁점으로 떠올랐다.

26일(현지시각) 월스트리트저널(WSJ)에 따르면 EU 집행위원회는 X의 AI 서비스 그록이 EU의 핵심 디지털 규제인 디지털서비스법(DSA)을 위반했을 가능성이 있다고 보고 이날 조사에 들어갔다. EU 집행위는 그록을 통해 생성·유통되는 콘텐츠가 불법 콘텐츠로부터 이용자를 보호해야 한다는 DSA의 요구 사항을 충족하는지 여부를 살펴볼 계획이다.

DSA는 온라인 플랫폼에 불법 콘텐츠와 허위정보, 혐오 표현 등으로부터 이용자를 보호할 책임을 강화한 EU의 대표적 디지털 규제다. 이를 위반할 경우 해당 온라인 플랫폼은 전 세계 연매출의 최대 6%에 해당하는 과징금을 부담할 수 있다.
EU 집행위는 이번 조사에서 X가 그록 사용과 관련해 ‘시스템적 위험’을 얼마나 적절히 평가하고 완화했는지를 중점적으로 들여다볼 방침인 것으로 알려졌다. 아울러 지난 2023년부터 진행 중인 X의 추천 알고리즘 관련 조사도 확대해 최근 그록을 기반으로 전환된 게시물 노출 시스템까지 포함해 검토하겠다고 밝혔다.

헤나 비르쿠넨 EU 집행위 기술 담당 집행위원은 “동의 없는 여성·아동 대상 성적 딥페이크는 폭력적이고 용납할 수 없는 모욕 행위”라며 “X가 EU 시민, 특히 여성과 아동의 권리를 서비스 운영 과정에서 부차적인 피해로 취급했는지 여부를 조사할 것”이라고 말했다.

이에 대해 X 측은 기존 입장을 재확인했다. X 대변인은 그록의 이미지 생성 기능에 제한을 두는 조치를 이미 시행했고 아동 성착취, 동의 없는 노출, 원치 않는 성적 콘텐츠에 대해 무관용 원칙을 적용하고 있다고 밝혔다.

그록은 지난해 말부터 텍스트 지시를 통해 이미지 편집이 가능해졌고 이후 동의 없는 AI 생성 이미지가 X 플랫폼에서 대거 유통되며 유럽 규제 당국의 주목을 받아왔다. 이에 따라 X는 EU 지역에서 플랫폼에 내장된 그록 앱과 ‘그록 AI 엑스 계정’의 운영 방식을 일부 변경한 바 있다.

이번 EU 조사는 영국 통신·미디어 규제기관 오프컴이 이달 초 그록의 이미지 생성 기능을 문제 삼아 엑스를 조사한 데 이어 나온 것이다. EU는 수년간 X를 집중적으로 감시해왔으며 지난해 12월에는 파란 체크 표시 시스템이 이용자를 기만하고 광고 투명성·데이터 접근 규정을 위반했다는 이유로 1억2000만 유로(약 2066억 원)의 과징금을 부과한 바 있다.

김현철 글로벌이코노믹 기자 rock@g-enews.com