사이버 보안 전문가, 중국 AI 열풍 속 '과도한 의존' 위험성 경고

사이버 보안 전문가가 중국 내 인공지능(AI) 열풍 속에서 의사 결정을 위한 과도한 AI 의존이 보안 위험을 초래할 수 있다고 경고했다고 1일(현지시각) 홍콩에서 발행되는 사우스차이나모닝포스트(SCMP)가 보도했다.

베이징에 본사를 둔 사이버 보안 기업 치안신(QAX)의 치샹둥 회장은 4월 29일 푸저우에서 열린 '디지털 차이나 서밋'에서 대규모 AI 모델이 심각한 보안 문제와 위험을 수반한다고 지적했다.

중국 최고 정치 자문 기관인 중국인민정치협상회의(CPPCC) 위원이기도 한 치 회장은 "AI가 산업 전반에 걸쳐 더욱 긴밀하게 통합됨에 따라 대규모 모델은 점점 더 강력해질 것이며, 사용자는 AI 기반 의사결정과 판단에 과도하게 의존하게 될 수 있다"고 경고했다.

그는 외부 위협 관점에서 "해커들이 취약점을 악용하거나 데이터 '중독'에 가담해 모델의 결정을 조작하고 대규모 모델을 가장하여 악의적인 행위를 저지를 수 있다"고 지적했다.
또한, 내부 운영 측면에서도 "관련 직원이 지식 기반을 업데이트하는 과정에서 잘못된 정보를 도입하면 모델의 학습 환경을 오염시켜 잘못된 출력으로 이어질 수 있다"고 우려했다.

이러한 경고는 중국 AI 스타트업 딥시크(DeepSeek)가 지난 1월 ChatGPT와 같은 미국 경쟁사와 동등한 수준의 챗봇을 출시한 이후 전국적인 AI 열풍이 불고 있는 상황에서 나왔다. 중국 정부는 딥시크가 서방의 하이테크 칩 제재 속에서도 국가의 혁신을 성공적으로 이끌었다며 적극 지지하고 있다.

중국 대중은 AI를 빠르게 수용하고 있으며, 많은 소셜 미디어 사용자들이 번역, 에세이 작성, 심지어 육아 조언까지 다양한 목적으로 AI를 활용하고 있다. 농촌 지역에서는 돼지 사육부터 해충 방제에 이르기까지 여러 주제에 대한 챗봇의 조언이 유용하다고 보고되고 있다.

이러한 AI 활용 추세는 의료 분야로도 확산되어 일부 의사들은 환자 진단에 AI를 활용하기 시작했다. 그러나 이에 대한 우려도 제기되고 있어 지난 2월 후난성은 병원들이 처방전 작성에 AI를 사용하는 것을 금지했다.

중국 여러 도시에서는 정부 서비스 플랫폼과 내부 운영에 AI를 통합하고 있다. 일부 지방 정부는 문서 초안 작성 및 교정 작업에 딥시크의 모델을 활용하고 있으며, 감시 카메라와 AI를 통합해 실종자 수색에도 활용하고 있다.

치 회장은 AI 모델의 광범위한 적용으로 인한 보안 위험을 경고하며, 핵심 데이터를 관리하기 위한 모니터링을 강화하는 보안 거버넌스 메커니즘 구축이 필요하다고 강조했다. 이 메커니즘에는 유해 콘텐츠와 비정상적 접근 행위에 대한 모니터링, 차단, 경고 발행 등이 포함될 수 있다고 제안했다.

중국의 최고 사이버 보안 규제 기관인 사이버스페이스 관리국(CAC)은 지난 4월 30일 AI 서비스와 애플리케이션을 규제하기 위한 3개월 캠페인을 발표했다. 이 캠페인은 승인되지 않은 의료 조언, 오해의 소지가 있는 투자 제안, 미성년자에게 영향을 미치는 잘못된 정보를 제공하는 AI 제품을 중점적으로 단속할 예정이다.

또한, 시사, 공공 정책, 사회 문제, 국제 문제 및 비상 사태와 관련된 AI 생성 정보와 금융, 의료, 교육, 법률 분야의 거짓 정보도 감시 대상이다.

전문가들은 AI 기술의 급속한 발전과 광범위한 적용이 가져올 수 있는 혜택을 인정하면서도, 적절한 규제와 보안 조치가 동반되지 않을 경우, 발생할 수 있는 위험에 대한 균형 잡힌 접근이 필요하다고 지적하고 있다.

특히 공공 의사결정과 국가 안보 관련 분야에서 AI에 과도하게 의존하는 것에 대한 신중한 접근이 요구된다고 강조하고 있다.


신민철 글로벌이코노믹 기자 shincm@g-enews.com