[초점] 중국 "사회주의 훼손하는 AI는 무조건 퇴출"

중국 기술 대기업들이 챗GPT 유행에 대응해 시장에 경쟁상품을 출시하기 위해 분주하게 움직이는 가운데 중국 공산당은 이미지와 문장을 자동 생성하는 생성 AI 시스템을 규제하기 위한 새로운 규칙을 작성 중이다.

중국은 서방에서 유행하는 챗GPT 등 4차 산업 혁명 가속화를 허용할 경우 서방의 자유주의가 자국의 사상 체계에 나쁜 영향을 줄 수 있다고 판단하고 자체 개발하는 AI에 사회주의의 핵심 가치를 반영하려고 한다.
CNBC 보도에 따르면 중국 관리들이 최근 발표한 지침 초안에는 “사회주의 핵심 가치를 반영해야 한다”고 적혀 있다. 이는 생성 AI가 운용될 중국에서 규제의 원칙이나 방향을 시사한 것이다.

지침 초안에 명시된 규칙은 중국 사이버 공간 관리국이 대중에게 피드백을 구하고 중국의 규칙이 현지 개발 업체에 어떻게 적용될 수 있는지에 대한 주요 지표를 제공하기 위해 게시되었다.

가장 큰 특징은 사회주의 가치를 반영할 뿐만 아니라 규칙 초안에 생성 AI가 국가 권력이나 사회주의 체제를 전복하거나 통합을 훼손하려고 시도해서는 안 된다고 경고한다. 테러리즘, 극단주의 또는 민족적 증오를 조장하는 행위와 함께 ‘허위 정보’ 또는 ‘경제 및 사회 질서를 어지럽힐 수 있는 콘텐츠'를 배포하는 것도 금지된다.

인종, 민족, 성별 및 기타 특성에 따른 차별을 방지하는 방식으로 알고리즘을 설계하는 방법에 대한 지침도 제시되어 있다. 특히, 생성 AI 서비스가 자국내에 널리 출시되도록 허용하기 전에 정부에서 보안 검토를 수행할 계획이라고 알리고 있다.

지침 초안의 발표는 중국 기술 대기업들이 오픈AI(OpenAI)의 챗GPT에 대한 자체 개발 대안을 개발하겠다는 의사를 표명함에 따라 나온 것이다. 알리바바는 생산성 소프트웨어에 통합할 계획인 ‘통이첸원(Tongyi Qianwen)’을 보유하고 있으며 바이두는 최근 ‘어니봇(Ernie bot)’이라는 자체 소프트웨어를 발표했다.

CNN이 11일(현지 시간) 보도한 알리바바의 ‘통이첸원’(수천 가지 질문을 함으로써 진실을 추구)은 더 많은 사용자가 사용할 수 있도록 하기 전에 테스트를 위해 기업 고객에게 개방되었다.
이 회사는 “챗GPT와 같은 플랫폼을 뒷받침하는 생성 AI와 클라우드 컴퓨팅에 의해 주도되는 기술적 분수령의 순간에 있다”고 말했다.

바이두도 ‘챗GPT’ 스타일의 AI 챗봇 ‘어니봇’의 내부 테스트를 완료하고 16일 오후 2시(현지 시간)에 생방송으로 이를 공개한다.

‘지식 통합을 통한 향상된 표현’을 의미하며 2019년에 출시된 AI 대형언어모델의 개선된 버전이다. ERNIE 3.0을 기반으로 언어 이해, 생성, 텍스트-이미지 생성 등의 작업을 수행할 수 있다.

챗GPT 통계에 따르면, 2021년 전 세계 챗봇 시장은 5억2570만 달러로 평가되었으며, 2022년부터 2030년까지 연평균 성장률을 25.7%로 예상하고 있다. 최신 데이터에 따르면, 챗GPT는 현재 1억 명 이상의 사용자를 보유하고 있다. 현재 매달 10억 명의 방문자가 있다. 이러한 사용자 및 트래픽 증가는 2022년 12월부터 2023년 2월까지 두 달 만에 달성되었다.

설문 조사에 따르면 전체 대학생의 43%가 챗GPT와 같은 AI 도구를 사용해 본 경험이 있다고 답했다. 절반은 과제나 시험에 사용하기 위해 이 도구를 사용하는 것을 인정했다. 이 수치는 대학생 5명 중 1명이 인공지능을 사용한다고 인정한 것이다.

중국의 대학생은 알려진 대로 등록된 학생 수가 2022년 9336명이다. 이는 2021년 기존 8326명보다 증가한 수치다. 이들이 자유 세계의 챗GPT를 사용할 경우 중국의 공산당 일당독재와 사회주의 사상 체계를 온전하게 유지하기는 쉽지 않다.

중국은 규제를 통해 이미 앱과 서비스에 뚜렷한 온라인 생태계를 보유하고 있다. 서구의 검색 및 소셜 미디어 기업들은 중국 내에서 활동이 금지되어 중국 기업들이 이 공간을 지배하고 있다.

앞으로 중국은 규제를 통해 차세대 생성 AI 서비스에서도 시장을 지배하려고 한다.

닛케이 아시아는 이전에 중국의 규제 때문에 중국 내의 사용자가 미국에서 개발한 챗GPT에 접속을 하려면 VPN으로 전환해야 하며, 텐센트는 생성 AI에서 위챗을 통합하려는 3자의 시도를 금지했다고 보도했다.

중국 최대 영자신문인 차이나 데일리는 챗GPT가 “미국이 중국을 폄훼하는 허위 정보를 증폭”할 가능성에 대해 경고했다. 중국의 규제 필요성이 정당하다는 여론을 확대하려는 의도가 반영된 것이다.

중국은 AI 시스템 훈련에 필요한 고급 반도체와 같은 강력한 기술에 대한 접근을 놓고 미국과의 긴장이 고조되는 가운데 자국 생성 AI 대안 개발에 노력 중이다. 시대변화에 뒤처지지 않겠다는 것이다.

그러나 검열에 대한 국가의 제한적인 접근 방식은 문제가 많다. 자유로운 생각의 흐름을 제어한다. 이는 창의력을 저해한다. 사실의 교묘한 왜곡도 가능할 수 있다.

지난해 MIT테크놀로지 리뷰는 바이두의 텍스트 투 이미지 생성기 ‘ERNIE-ViLG’가 천안문 광장이나 다른 정치 지도자들의 이미지를 만드는 것을 거부하고 ‘민감한 정보’로 분류할 것이라고 보도했다.

물론 이러한 검열과 언어 조절 문제는 중국에만 국한된 것이 아니다. 정도 차이가 존재한다. 미국에서 챗GPT는 오픈AI가 유해한 발언을 생성하는 소프트웨어의 능력과 인지된 자유주의적 편견에 대한 제한 때문에 비판을 받았다. 비판은 FreedomGPT와 같은 ‘검열되지 않는 대안’의 출시로 이어졌다.

사이버 공간에서 일어나는 허위 또는 조작된 정보는 충돌과 갈등을 야기할 수 있다. 이것은 인터넷 시대에서 지속적으로 제기된 윤리의 문제다. 이는 과학기술의 발전과 함께 가는 독버섯이다. 개인의 도덕적 자율과 규제 사이에서 적절한 균형이 계속 의제가 될 것이다.


박정한 글로벌이코노믹 기자 park@g-enews.com