中, AI 안전·윤리 규제 강화…사이버보안법 개정 추진

중국 최고 입법부가 중국의 사이버보안법 개정안을 통해 인공지능(AI) 안전과 윤리에 대한 규제를 강화할 것이라고 밝혔다고 23일(현지시각) 사우스차이나모닝포스트(SCMP)가 보도했다.

전국인민대표대회(NPC) 상무위원회 법제위원회 대변인 왕샹은 23일 베이징에서 기자들에게 개정안이 지난달 처음으로 검토됐다고 말했다.

당시 초안을 '인터넷 안전 관련 업무의 기본 원칙'으로 개정하고, AI 관련 콘텐츠를 추가하고, 개인 개인정보 보호가 민법에 더 잘 부합하도록 합의했다고 왕은 말했다.

왕은 2016년 사이버보안법이 제정된 이후 새로운 기술이 새로운 문제를 야기했고 불법 온라인 활동이 여전히 빈번했으며 개정안은 이러한 새로운 문제를 해결했다고 덧붙였다.
그는 AI 보안 및 개발에 대한 프레임워크 조항이 추가될 것이며 기본 AI 이론 연구 및 핵심 기술 개발에 대한 지원을 포함할 것이라고 말했다.

왕에 따르면 여기에는 기본 인프라, 윤리 규범 개선, 보안 위험 모니터링 및 평가 강화, AI 관련 보안 규제 개선에 대한 조항도 포함될 것이다.

법안 초안은 통과되기 전에 일반적으로 중국에서 세 번 검토된다. 모든 당사자 사이에 일반적인 합의가 있는 경우와 같은 특정 상황에서는 초안을 한두 번의 검토 후에 투표에 부칠 수 있다.

이 개정안은 25일부터 29일까지 열리는 전인대 상임위원회의 다음 회의에서 논의될 예정이다.

지난 3월 중국 최고의 인터넷 감시 기관인 중국 사이버공간관리국(CAC)은 AI가 생성한 텍스트, 이미지, 오디오, 비디오 및 기타 가상 콘텐츠에 명시적 및 암묵적 라벨을 요구하는 규정을 발표했다. 명시적 표시는 사용자에게 명확하게 표시되어야 하며, 디지털 워터마크와 같은 암시적 식별자는 메타데이터에 포함되어야 한다.

이는 잘못된 정보, 저작권 침해 및 온라인 사기에 대한 우려가 커지면서 AI에 대한 베이징의 조사가 강화되었음을 반영한다.

2023년 CAC는 생성형 AI 서비스에 대한 또 다른 규정을 발표하여 서비스 제공업체가 지적 재산권 침해를 방지하면서 개인 데이터를 보호하고 정보의 정확성을 보장해야 한다고 선언했다.

그러나 기존 규정에도 불구하고 AI의 사용은 종종 우려와 논란을 불러일으킨다.

광명일보에 따르면 최근 온라인 트렌드는 집에 노숙자 침입자가 있는 모습을 담은 AI가 생성한 사진을 만든 뒤 농담으로 가족에게 보내는 것이다. 경찰은 장난으로 인해 심각한 결과를 초래할 경우 인터넷 사용자가 벌금을 물거나 구금될 수도 있다고 경고했다.

중국의 AI 규제 강화는 기술 발전과 사회 안정의 균형을 맞추려는 시도로 해석된다. 중국은 AI 분야에서 미국과 경쟁하며 기술 개발을 적극 추진하는 동시에 사회 통제를 유지하려 한다.

한 기술 정책 전문가는 "중국 정부는 AI 기술 발전을 지원하면서도 정치적 안정성과 사회 통제를 해칠 수 있는 위험을 최소화하려 한다"며 "이번 사이버보안법 개정은 이러한 이중 목표를 반영한다"고 분석했다.

중국의 AI 규제는 서방과 다른 접근법을 취하고 있다. 유럽연합이 AI 법으로 투명성과 책임성을 강조하는 반면, 중국은 당의 통제와 사회 안정을 우선시한다.

특히 AI 생성 콘텐츠에 대한 명시적 표시 의무화는 딥페이크와 허위정보 확산을 막기 위한 조치다. 중국은 AI를 이용한 정치적 선동이나 사회 불안 조성을 극도로 경계하고 있다.

전문가들은 중국의 AI 규제가 국내 AI 산업 발전에 영향을 미칠 수 있다고 우려한다. 과도한 규제가 혁신을 저해할 수 있기 때문이다.

그러나 중국 정부는 규제와 발전의 균형을 맞출 수 있다고 주장한다. AI 이론 연구와 핵심 기술 개발에 대한 지원을 강조하는 것은 이러한 의지를 보여준다.

중국의 AI 시장은 세계에서 가장 빠르게 성장하고 있다. 바이두, 알리바바, 텐센트 같은 대형 기술 기업들이 AI 개발에 막대한 투자를 하고 있으며, 정부도 국가 차원에서 AI를 전략 산업으로 육성하고 있다.

다만 데이터 접근 제한과 국제 협력 제약이 중국 AI 산업의 약점으로 지적된다. 서방의 기술 제재로 첨단 칩과 소프트웨어 접근이 어려워지면서 자체 기술 개발이 더욱 중요해졌다.

업계는 이번 사이버보안법 개정이 구체적으로 어떤 내용을 담을지 주목하고 있다. 특히 AI 개발업체와 서비스 제공업체에 대한 의무 사항과 처벌 규정이 핵심 관심사다.

한 중국 AI 스타트업 관계자는 "규제가 명확하고 합리적이라면 오히려 산업 발전에 도움이 될 수 있다"며 "다만 과도한 규제나 자의적 집행은 혁신을 저해할 수 있어 우려된다"고 말했다.

중국의 AI 윤리 규범 강화는 글로벌 추세이기도 하다. AI의 부작용과 위험에 대한 우려가 커지면서 각국이 규제 체계를 마련하고 있다. 다만 중국의 접근법은 당의 통제와 사회 안정을 강조한다는 점에서 서방과 차이가 있다.

전문가들은 중국의 AI 규제가 향후 더욱 강화될 것으로 전망한다. 특히 AI 안전과 윤리에 대한 감독이 체계화되고 엄격해질 것으로 예상된다.

사이버보안법 개정안은 전인대 상임위원회에서 논의된 후 추가 검토를 거쳐 최종 통과될 것으로 보인다. 법안이 통과되면 중국의 AI 산업은 새로운 규제 환경에 적응해야 할 것이다.


신민철 글로벌이코노믹 기자 shincm@g-enews.com