;)
;)
9월부터 시행, AI 생성물 '명시적·암시적' 라벨 부착… 위반 시 강력 제재
가짜 뉴스, 저작권 침해, 사기 등 부작용 차단… AI 규제 강화 '세계적 추세'
가짜 뉴스, 저작권 침해, 사기 등 부작용 차단… AI 규제 강화 '세계적 추세'
이미지 확대보기
중국 사이버공간관리국(CAC)은 지난 주말 공업정보화부, 공안부, 국가라디오텔레비전관리국과 공동으로 AI 생성 콘텐츠 라벨링 의무화 규정을 발표했다. 오는 9월 1일부터 시행되는 이 규정에 따르면, AI가 생성한 텍스트, 이미지, 오디오, 비디오, 가상 콘텐츠 등 모든 디지털 결과물에는 명시적, 암시적 라벨을 의무적으로 부착해야 한다.
명시적 라벨은 사용자가 명확하게 인지할 수 있도록 눈에 띄게 표시해야 하며, 암시적 라벨은 디지털 워터마크 형태로 메타데이터에 포함되어야 한다. 온라인 서비스 제공업체는 AI 생성 콘텐츠를 게시하기 전에 검증하고 필요한 경우 라벨을 추가해야 하며, 메타데이터에 AI 마커가 없더라도 AI 생성 의심이 드는 콘텐츠는 별도로 표시해야 한다.
AI 생성 콘텐츠를 게시하는 사용자는 이를 반드시 신고해야 하며, 서비스 제공업체는 최소 6개월 동안 관련 기록을 보관해야 한다. AI 콘텐츠 라벨의 제거, 변경, 은폐는 엄격히 금지되며, 규정 위반 시 강력한 처벌을 받게 된다.
이번 조치는 가짜 뉴스, 저작권 침해, 온라인 사기 등 AI 기술의 부작용에 대한 우려가 커지는 가운데 중국 정부가 AI 감독을 강화하겠다는 의지를 분명히 한 것으로 평가된다. 중국은 이미 심층 합성 기술 및 알고리즘 권고 사항을 관리하는 기존 규정을 통해 AI 기반 콘텐츠에 대한 정부 감독을 강화해 왔다.
또한, 이번 조치는 CAC가 지난달 발표한 AI 감독 강화 정책과 맥을 같이 한다. 중국 관영 통신 신화사는 AI 규제가 중국 온라인 공간 정화를 위한 '2025 청랑 캠페인'의 핵심 목표가 될 것이라고 보도했다. 올해 캠페인은 강력한 AI 콘텐츠 모니터링, 필수 라벨링 엄격 시행, AI를 이용한 가짜 뉴스 유포 및 여론 조작 행위 처벌 등에 초점을 맞출 예정이다.
중국 내 AI 모델 개발 경쟁이 치열해지면서 의무적인 AI 콘텐츠 라벨링에 대한 지지 여론도 높아지고 있다. 알리바바의 딥시크, 콰웬 AI 등 국내 개발 모델과 스타트업 버터플라이 이펙트의 AI 에이전트 마누스 등장으로 AI 규제 논의는 더욱 활발해지고 있다.
전 세계적으로 AI 생성 콘텐츠 규제 움직임이 확산되는 추세다. 유럽연합(EU)은 지난 8월 AI법을 발효해 추적성 요건과 함께 명확한 라벨링을 의무화했으며, 미국은 AI 콘텐츠 라벨링 및 탐지를 위한 가이드라인 개발을 추진하고 있다. 영국 역시 AI 규제 기관 설립과 투명성 및 규정 준수 강화를 위한 법안을 제출했다.
중국 공산당 기관지 인민일보는 최근 논평을 통해 리둥셩 전국인민대표대회 대표의 'AI 오용 방지를 위한 의무 라벨링' 제안을 지지하며, AI 기술의 부작용에 대한 우려를 표명했다.
그러나 일각에서는 라벨링만으로는 AI 기술의 부작용을 완벽하게 통제하기 어렵다는 지적도 나온다. 인민일보는 논평에서 라벨링의 '실질적 필요성'을 인정하면서도 법 집행의 어려움을 언급했다. 실시간 AI 애플리케이션의 경우 라벨 삽입이 기술적으로 어렵고, 워터마크나 디지털 지문 등 암시적 라벨은 쉽게 제거 또는 변조될 수 있다는 것이다.
또한, 라벨링만으로는 가짜 뉴스 유포, 지적 재산권 침해, 편향된 콘텐츠 생성 등 근본적인 문제를 해결할 수 없다는 비판도 제기된다. 국가별 표준 차이로 인해 글로벌 집행이 어려울 수 있다는 점도 한계로 지적된다.
하지만 중국 정부의 이번 조치는 AI 기술 발전과 함께 심화되는 사회적 문제에 선제적으로 대응하겠다는 의지를 보여준다. AI 규제에 대한 논의가 전 세계적으로 확산되는 가운데, 중국의 이번 조치는 향후 국제적인 AI 규제 표준을 정립하는 데 중요한 역할을 할 것으로 전망된다.
신민철 글로벌이코노믹 기자 shincm@g-enews.com
