中, AI 가짜 콘텐츠 단속 강화…지진 아기 이미지·납치 사진 등 확산

중국은 납치 피해자나 지진 피해를 보여주는 것을 포함해 소셜 미디어에 게시된 가짜 콘텐츠가 증가함에 따라 생성 인공 지능을 사용해 생성된 악성 이미지 및 비디오에 대한 규제를 강화하기 위해 움직이고 있다고 13일(현지시각) 닛케이 아시아가 보도했다.

인터넷 안전에 관한 법률 개정안은 1월부터 발효된다. 이 법은 처음에는 통신 인프라의 보안을 개선하기 위한 것이었지만 최근에는 AI의 위험 관리 및 안전 모니터링이 포함됐다.

개정안은 10월 28일 전국인민대표대회 상무위원회의 승인을 받았다.

정부는 가짜 콘텐츠가 비판에 사용되는 것을 경계하는 것으로 보인다. 범죄, 사고 또는 재난 이후의 잘못된 정보가 실제로 일어난 것보다 더 심각한 피해를 보인다면 중국은 나쁜 시각을 가질 수 있다.
또 다른 우려는 고위 관리들이 위법 행위에 대한 허위 혐의로 인해 권력에서 물러날 가능성이다.

중국은 2023년 8월부터 생성형 AI 서비스를 규율하는 법률을 시행하고 있으며, AI 관련 기업은 사회주의의 가치에 따라 이러한 기술을 사용하도록 요구하고 있다.

사회 혼란이나 정부 전복으로 이어질 수 있는 콘텐츠 제작을 금지한다.

중국의 DeepSeek 및 기타 생성 AI는 이 법에 따라 훈련됐기 때문에 중국의 대규모 언어 모델은 제기된 정치적 질문에 답하는 것을 피하는 경향이 있다.

최근 가짜 이미지와 동영상의 홍수로 인해 중국은 기술에 대한 통제를 더욱 강화하게 된 것으로 보인다.
1월 7일 티베트를 강타한 규모 6.8의 지진 이후 잔해로 뒤덮인 신생아의 이미지가 소셜 미디어를 통해 퍼졌다.

이 이미지는 사람들이 아기를 동정하면서 입소문을 탔지만, 나중에 해당 이미지는 생성형 AI로 만들어졌으며 지진과 관련이 없는 것으로 밝혀졌다.

이미지를 게시한 사람은 잘못된 정보를 퍼뜨린 혐의로 당국에 구금됐다.

공안당국도 단속을 강화하고 있다. 10월 말, 이들 당국은 발견한 불법 가짜 콘텐츠 중 일부를 공개하며 유사한 조치를 취하는 사람들을 추적하겠다는 신호를 보냈다.

예를 들면 28세의 저장성 남성이 온라인에서 찾은 소녀의 사진을 사용해 딸이 납치됐다고 주장한 사건이 포함됐다.

또 다른 사례에서는 57세의 산시성 여성이 지진으로 인한 피해를 보여주는 텍스트와 이미지를 게시했지만 그러한 피해는 존재하지 않았다.

중국의 생성형 AI 사용자는 6월 현재 5억1500만 명으로 6개월 만에 두 배로 증가했다고 정부가 지원하는 중국 인터넷 네트워크 정보 센터가 보고했다.

이 기술은 DeepSeek가 상대적으로 저렴한 비용으로 고성능을 실현한다는 헤드라인을 장식한 후 빠르게 확산됐다.

중국 인터넷을 검색하면 생성 AI를 사용해 가짜 이미지를 만드는 방법과 얼굴이나 목소리를 바꿀 수 있는 소프트웨어에 대한 교육용 비디오를 쉽게 찾을 수 있다.

많은 사용자가 상품 판매나 광고 수익을 늘리기 위해 참여도를 높이기 위해 소셜 미디어에 선정적인 이미지를 게시한다.

정부와 공산당과 연계된 인터넷 감독 기관이 지방 정부와 주요 소셜 네트워크 플랫폼에 지침을 발표하기 시작했다.

누드 이미지를 쉽게 만들거나 음성이나 얼굴을 편집할 수 있는 AI 서비스를 단속했다.

4~6월 분기에는 3500개의 앱과 96만 건의 콘텐츠에 대한 시정 조치를 명령했다.

지난 9월, 이 법인은 AI 서비스 제공업체가 AI가 사용됐음을 나타내기 위해 사용자가 만든 이미지와 비디오에 라벨을 붙여야 한다는 요구 사항을 도입했다.

1월 인터넷안전법 개정은 AI 통제 강화다. 통신 보안에서 AI 리스크 관리로 법 적용 범위를 확대했다.

정부 비판 차단이 핵심 목적이다. 재난·사고 피해 과장이나 고위 관리 허위 혐의로 정권 안정이 흔들릴 수 있다.

2023년 8월 생성형 AI 법은 이념 통제다. 사회주의 가치 준수를 강제하며 정치적 질문 회피를 유도한다.

지진 아기 이미지 구금은 강력한 경고다. 가짜 콘텐츠 제작·유포자를 형사 처벌하며 본보기를 보였다.

납치·지진 피해 조작 사례 공개는 위협 메시지다. 공안당국이 적발 사례를 공개하며 자숙을 유도하고 있다.

5억1500만 사용자는 통제의 긴급성을 보여준다. 6개월 만에 2배 증가하며 가짜 콘텐츠 확산 위험이 커졌다.

DeepSeek 확산은 양날의 검이다. 저비용 고성능으로 기술 보급이 빨라졌지만 악용 가능성도 높아졌다.

3500개 앱·96만 건 시정은 대규모 단속이다. 누드 이미지·음성·얼굴 편집 서비스를 집중 타격하고 있다.

AI 라벨 의무화는 투명성 확보 조치다. 사용자가 AI 생성물임을 알 수 있게 표시를 강제한다.

상업적 악용 확산도 문제다. 광고 수익과 상품 판매를 위해 선정적 가짜 이미지를 양산하고 있다.

중국은 생성형 AI 사용자 5억 명 시대를 맞아 가짜 콘텐츠 범람에 대응해 1월부터 인터넷안전법 개정안을 시행하며, 정부 비판과 사회 혼란 차단을 목적으로 AI 통제를 대폭 강화하고 있다.


신민철 글로벌이코노믹 기자 shincm@g-enews.com