“AI 블랙박스 투명하게 깐다”... 中, 세계 최초 ‘국가 공인 AI 평가 표준 체계’ 도입

중국 정부가 급격하게 진화하는 인공지능(AI) 기술의 불확실성을 통제하고 국가 차원의 거버넌스 주도권을 쥐기 위해, AI의 정확성과 신뢰성, 그리고 투명성을 강제하는 강력한 국가 평가 프레임워크를 출범시켰다.

내부 구동 과정을 알 수 없어 인류의 불안감을 키워온 AI 알고리즘의 고질적인 '블랙박스' 문제를 정면으로 타격해 기술의 성과를 계측하고 추적 가능한 영역으로 끌어내리겠다는 독자적인 실리주의 책략이다.

30일(현지시각) 사우스차이나모닝포스트(SCMP) 보도에 따르면, 중국 당국은 AI에 대한 공통 기준을 전격 제정하여 모델의 성능, 컴퓨팅 파워(연산력), 데이터 품질을 일원화된 국가 표준 하에서 엄격히 측정하고 비교할 방침이다.

이번 조치는 인공지능이 중국 경제 성장의 핵심 동력이자 지정학적 안보 경쟁의 중요한 무대로 부상한 가운데, 국내 AI 연구 역량과 국가 기준 설정 도구를 선제적으로 구축해 글로벌 테크 헤게모니를 장악하겠다는 의도가 깔려 있다.

사용자가 AI 모델이 어떤 경로를 거쳐 특정 결론에 도달하는지 전혀 이해할 수 없는 '블랙박스' 특성은 그동안 데이터 보안과 알고리즘 편향에 대한 글로벌 우려를 심화시켜 왔다.

이를 해소하기 위해 중국 국가시장규제관리국(SAMR)과 국가개발개혁위원회는 국가적 신뢰성 강화의 필요성을 강력히 피력하며 투명성을 비약적으로 높일 혁신 도구 개발을 촉구하는 문서를 공식 발표했다.

SAMR은 공식 성명을 통해 “신뢰할 수 있고 안전하며 믿을 수 있는 인공지능 측정 기준 수립을 전방위적으로 촉진할 것”이라며 “이를 통해 AI의 성과와 도출 과정을 명확히 측정 가능하고(Measurable), 비교 가능하며(Comparable), 추적 가능하게(Traceable) 만들겠다”고 배수진을 쳤다.

단순한 모니터링을 넘어 기술의 품질과 근본적인 인프라 기반을 정부의 표준 통제선 안에 완벽히 귀속시키겠다는 뜻이다.

이번에 출범한 국가 AI 프레임워크는 단순히 실험실 내부의 혁신에 머무는 기술을 실제 산업 현장에 안전하게 이식하는 이른바 ‘라스트 마일(Last Mile)’ 연계에 방점을 찍고 있다. 현장 도입의 걸림돌로 지적되어 온 측정의 부정확성과 고품질 데이터 부족 문제를 정부 주도로 정면 돌파하겠다는 구상이다.

당국이 제시한 구체적인 실행 마일스톤은 다음과 같다.

우선, AI 측정을 정밀 지원하고, 중국 독자 소유의 새로운 테스트 및 보정 도구를 개발할 '국가 연구 및 응용 센터' 설립을 전격 지원한다.

또한, 부문 간 장벽을 과감히 낮춰 산업 간 안전한 데이터 공유를 가능하게 하고, AI 훈련과 평가에 최고 품질의 입력을 제공하는 공유 체계를 제안했다.

한편, SAMR은 개발된 성공적인 모델을 전국적으로 확장하기 전에, 안전성과 보안성이 극도로 요구되는 의료 등의 특수 분야에서 우선적으로 시범 프로그램을 진행해 인프라 개발을 가속화할 계획이다.

자산운용사 테크 통상 전문가는 “알리바바 AI 음성 모델이 미국 경쟁자들을 꺾고 글로벌 탑5에 진입하고, 대만 전자부품사들이 일본의 영토를 잠식하는 등 아시아 발 테크 굴기가 거세지는 시점”이라며 “트럼프 행정부가 USMCA 원산지 규정을 개정해 미국산 비율을 50%로 강제하는 등 서방의 디커플링 압박이 가혹해지는 격변기 속에서, 중국이 컴퓨팅 파워와 모델 품질을 직접 계측하는 표준 프레임워크를 던진 것은 서방의 기술 규제 장벽에 구걸하지 않고 자국 중심의 ‘클린 AI 가치사슬 표준’을 전 세계에 관철시키겠다는 강력한 국가 안보성 포석”이라고 진단했다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com