"AI 자율 진화 눈앞, 인류 위협 막아야"… 美·中 '보편적 윤리 검사기' 구축 대두

인공지능(AI) 모델이 국가 기간 인프라를 위협하고 대규모 해킹 공격의 도구로 악용되는 등 전 세계적으로 사이버 안보 위기가 고조되자, 중국의 대표적인 AI 반도체 설계 석학이 미국과 중국의 주요 AI 모델을 포괄하는 '보편적 윤리 기준(Universal Ethical Standards)' 도입을 촉구하고 나섰다.

중국 기업의 딥시크(DeepSeek)·바이트댄스(ByteDance)부터 미국의 오픈AI(OpenAI)에 이르기까지 양국의 선도적인 거대언어모델(LLM)에 의무적으로 탑재해야 할 글로벌 공통 '윤리 검사기(Ethics Checker)'를 구축해, AI의 통제 불능 사태와 인류에 대한 잠재적 피해를 사전에 차단하자는 파격적인 제안이다.

11월 1일(현지시각) 홍콩 사우스차이나모닝포스트(SCMP)에 따르면, 중국 AI 팹리스 유니콘 캄브리콘 테크놀로지스(Cambricon Technologies)의 공동 창립자이자 중국과학원 컴퓨터기술연구소 교수인 천윤지(Chen Yunji) 박사는 상하이 린강(臨港) 특별구역에서 열린 '세계 수상자 포럼(World Laureates Forum)' 인공지능 안전 및 위험 패널 기조연설에서 이같이 밝혔다.

천 교수는 "향후 거대언어모델들이 인류에게 치명적인 해를 끼치는 것을 방지하기 위해 모든 인간과 국가가 합의하는 표준화된 윤리 검사기가 반드시 마련되어야 한다"며 "지정학적 경쟁과 무관하게 주요 모델들은 모두 이 안전 검증 체계를 의무적으로 통과해야 한다"고 역설했다.
캄브리콘은 천 교수가 2016년 동생 천톈시(Chen Tianxi)와 공동 설립한 중국의 국가대표급 AI 신경망처리장치(NPU) 설계 기업으로, 현재 중국 증시에서 시가총액 6,000억 위안(약 125조 원)을 웃돌고 있다.


천 교수가 긴급 제안을 내놓은 배경에는 AI 시스템의 급속한 고도화와 최근 빈발하는 국가 단위 사이버 침해 사고가 자리 잡고 있다.

천 교수는 "인류는 머지않아 AI가 스스로 코드를 수정하고 성능을 끌어올리는 '재귀적 자율 자기 개선(RSI·Recursive Self-Improvement)' 시스템에 직면하게 될 것"이라고 경고했다. AI의 내부 추론 과정과 의사결정이 '블랙박스'처럼 불투명해지면 인간의 사후 개입만으로는 물리적·사회적 피해를 완전히 차단하기 불가능해진다는 지적이다.

그는 "기술 발전의 각 단계마다 AI 자체를 감시 수단으로 활용해 이후에 등장할 더 강력한 차세대 시스템을 모니터링하고 제어하는 다층 방어망이 실질적인 대안이 될 것"이라고 제언했다.

특히 이번 발언은 미국 유력 사이버 보안 기업 크라우드스트라이크(CrowdStrike)가 중국발 사이버 공격 보고서를 공개한 직후 나와 비상한 관심을 모았다.
크라우드스트라이크는 지난 29일 보고서를 통해 중국계 해커 조직(VAPOR PANDA)이 지난 10월 17일부터 오픈소스 딥시크(DeepSeek) 모델 기반의 자동화 공격 프레임워크(ARTEX)를 악용해 제약, 반도체, 국방, 통신 등 전 세계 200개 이상의 기관을 상대로 대규모 사이버 침투 공세를 벌였다고 폭로했다.

AI가 해킹 경로를 실시간으로 탐색·우회하는 무기로 돌변하면서, 중국 내부에서도 AI 통제선이 무너질 경우 통제 불능의 자충수가 될 수 있다는 위기감이 급격히 확산된 것이다.


패널에 함께 참여한 서방 석학들도 미·중 간 AI 안전 공조의 시급성에 한목소리를 냈다.

공개키 암호화 기술의 선구자이자 튜링상 수상자인 마틴 헬먼(Martin Hellman) 스탠퍼드대학교 명예교수는 "현재 전 세계는 경제적·군사적 패권 동기가 지나치게 커서 그 누구도 독자적으로 AI 개발 속도를 늦출 수 없는 '위험한 치킨게임'에 갇혀 있다"고 직격했다.

헬먼 교수는 "이 폭주를 제어하지 못한다면 전 지구적 파국으로 이어질 수 있다"며 "미국이나 중국 어느 한쪽이 상대방에게 자국의 규범을 강요하려 해서는 안 되며, 양국이 각자의 내부에서부터 통제 메커니즘을 가동해 '신뢰 가능한 새로운 협력의 세계'를 열어야 한다"고 촉구했다.

니콜라스 더크스(Nicholas Dirks) 뉴욕과학아카데미 회장 역시 "미국과 중국이 글로벌 AI 혁명을 주도하고 있는 만큼, 인류 전체를 대신해 이 강력한 기술을 안전하게 통제하고 거버넌스를 정립해야 할 특별한 역사적 책무를 짊어지고 있다"고 강조했다.


미국과 중국 양국은 지난 9월 고위급 회담을 통해 '양자 AI 안전 대화 및 이상 징후 통보 메커니즘'을 설치하기로 큰 틀에서 합의했으나, 세부 운영 지침과 검증 범위는 베일에 싸여 있었다.

그러나 향후 예정된 시진핑 중국 국가주석과 도널드 트럼프 미국 대통령 간의 연쇄 정상회담에서 AI 사이버 위협 방지와 안전 표준 설정이 최우선 핵심 의제로 다뤄질 가능성이 한층 커졌다.

중국 정부는 이달 초 사이버 침해 기준을 초과하는 초고성능 AI 모델에 대해 수출 통제를 적용하는 규제안을 입법 예고하는 등 자체적인 안보 방어선 구축에 착수한 상태다.

한편 공산당 기관지 인민일보는 논평을 통해 자국 AI 산업에 대한 신뢰를 강조하고 나섰다. 최근 중국 온라인상에서 "미국은 코딩과 기업 생산성 혁신에 AI를 쓰는 반면, 중국은 숏폼·게임 등 엔터테인먼트 소비에만 치우쳐 있다"는 자조적 여론이 확산되자, 중국 정부가 산업용 실물 경제와 생산적 AI 결합을 독려하며 민심 수습에 나선 것으로 풀이된다.

글로벌 기술 안보 전문가들은 "미·중 기술 패권 전쟁이 반도체 장비와 통신망 차단 등 물리적 하드웨어 규제에 집중된 사이, 정작 통제를 벗어난 LLM 사이버 침투 위협이 전 지구적 안보 뇌관으로 부상했다"며 "중국 반도체 핵심 설계자의 '보편적 윤리 검사기' 제안은 하드웨어 단절 속에서도 소프트웨어 차원의 최소 안전 가이드라인이 양국 모두의 생존 과제가 되었음을 보여준다"고 진단했다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com