중국, AI 통제 상실 위험 공식화…한국 기업 이중 규제 리스크

중국 정부가 인공지능(AI)의 급격한 지능 도약과 자율적 통제 이탈 가능성을 안보 리스크로 규정하고 강제적 규제 장치 마련을 본격화했다.

로이터통신은 14일(현지시각) 중국 국가인터넷정보판공실(CAC)의 안전 프레임워크와 최신 지침을 인용해 중국 당국이 AI 통제 상실 시나리오에 대한 법적·기술적 대비에 나섰다고 보도했다.

자율형 에이전트 규제가 구체화하면서 중국 시장 진출을 노리는 한국 AI 개발사들이 현지 규격에 맞춘 강제 개입 모듈을 추가 개발해야 하는 이중 규제 부담으로 이어질 수 있다는 관측이 나온다.


중국 국가인터넷정보판공실(CAC)은 2024년 9월 발표한 AI 안전 프레임워크를 통해 미래 AI가 자율적으로 외부 자원을 확보하고 스스로를 복제하며 자아를 형성해 인간과 통제권을 놓고 경쟁할 가능성을 공식 명시했다.
중국 정부 규범 문서에 AI 통제 이탈 시나리오가 처음으로 등장한 사례다.

CAC는 지난해 9월 해당 프레임워크의 개정판을 내놓으며 위험 시나리오를 한층 구체화했다. 개정안은 AI가 예상치 못한 수준으로 지능의 급격한 도약을 이룬 뒤 자원을 확보하고 자기 복제와 권력 추구에 나설 수 있다고 적시했다.

이에 따라 '신뢰 기반 활용, 통제 상실 방지'라는 거버넌스 원칙이 새롭게 추가됐다. 이후 관영 웹사이트에 게재된 전문가 해설은 해당 원칙이 AI의 탈주 위험으로부터 인류의 생존과 발전을 보호하려는 취지라고 설명했다.

중국 최고 지도부 역시 이 같은 문제의식을 공유한다.

시진핑 중국 국가주석은 지난 7월 상하이에서 열린 세계인공지능대회(WAIC)에 참석해 AI의 내재적·파생적 위험 모두에 주의를 기울여야 한다고 당부하며, AI는 "항상 인간의 통제 하에 머물러야 한다"고 강조했다.

중국 당국은 이러한 원칙을 바탕으로 자율적으로 복잡한 과제를 수행하는 AI 에이전트 시스템에 대한 구체적 규제로 전환하고 있다.

CAC는 지난 5월 관계 부처 합동으로 ‘AI 에이전트 특화 지침’을 확정했다.

해당 지침은 데이터 오염, 알고리즘 조작, 시스템 취약점, 운영상 통제 상실을 주요 보안 위험으로 지정했다.

이에 따라 개발사는 부적절한 에이전트 행동을 감지·개입·차단·복구할 수 있는 기술적 도구를 의무적으로 갖춰야 하며, 최종 의사결정권은 반드시 인간 사용자에게 보장되어야 한다.

국제 무대에서도 관련 발언이 이어졌다. 쑨샤오보 외교부 AI 담당 고위관리는 지난달 유엔 회의에서 포괄적 AI 입법 연구를 가속화하고 있다고 밝혔으며, 쑨레이 유엔 주재 중국 차석대사는 이번 9월 회의에서 군비 경쟁과 전략적 오판을 막기 위해 군사 AI 활용에 신중해야 한다고 촉구했다.

다만 중국은 미국 기업들이 제안한 내부 독립 감시기구 상주 방식 대신, 제3자 안전 평가와 외부 기관의 검증을 허용하는 프레임워크를 채택하고 있다.


중국의 AI 통제 상실 방지 규제 구체화는 글로벌 표준 주도권 경쟁을 가열시키는 동시에 한국 AI 산업과 안보 환경에 직접 영향을 미친다.

중국 당국이 지난 5월 ‘에이전트 특화 지침’을 통해 개발사에 개입·차단 도구 탑재와 사용자 최종 결정권 보장을 의무화함에 따라 현지 기업과 협력하는 한국 AI 서비스 개발사들은 해당 규격에 맞춘 추가 보안 모듈 개발이 불가피해졌다.

미·중 간 AI 안전 규제 패러다임이 분화될 경우 한국 기업들은 북미형 '오픈 가드레일 체계'와 중국형 강제 개입 도구 체계를 동시에 준수해야 하는 위험에 노출된다.

북미형 '오픈 가드레일 체계'는 미국을 포함한 북미권 AI 기술 생태계 중심의 오픈소스 기반 인공지능(AI) 안전성·보안 통제 체계를 의미한다. 두 체계의 가장 큰 차이는 국가의 개입의 정도다.

유엔 주도로 통일된 AI 안전 표준안이 타결되면 이중 규제 리스크는 완화될 수 있다. 유엔 등 국제기구의 글로벌 표준 제정 향방과 함께 한국 과학기술정보통신부의 AI 기본법 하위 법령 정비 시점이 주요 관전 포인트다.


심완섭 글로벌이코노믹 기자 ciberwld@g-enews.com