"AI 도입 '너무 빠르다'"...중국 내부서 첫 비판 쏟아져

"의료·추론모델 성과 '선전' 앞서...국민 안전 우려 확산, 300여 병원에 딥시크 적용"

2025년 2월 19일 중국 베이징에 위치한 중국 스타트업 사무실이 있는 건물에서 DeepSeek AI 표지판이 보인다. 사진=로이터

중국에서 인공지능(AI) 기술이 빠르게 확산되는 가운데, 학계와 의료계 일부에서 "너무 빠르다"는 AI 도입에 대한 신중론이 제기되고 있다. 이는 정부와 국영 언론이 AI 기술의 혁신적 성과를 적극적으로 선전하는 분위기 속에서 나타난 이례적 현상으로, 실제 의료 현장과 기술 연구 분야에서 성과와 위험에 대한 비판적 목소리가 표면화된 첫 사례로 꼽힌다고 대만의 대표 매체인 타이페이타임스(Taipei Times)가 지난 9일 보도했다.

중국은 AI 도구가 단점보다 장점이 더 많다고 답한 응답자의 비율이 전 세계에서 가장 높다. 올해 초 딥시크(DeepSeek)의 시장을 움직이는 추론모델 R1이 등장한 뒤, 기술 업계는 과열 분위기에 이르렀다. 혁신과 업데이트가 엄청난 속도로 이뤄지고 있고, AI 기술은 전국적으로 빠르게 확산되고 있다. 하지만 AI 열풍에 모두가 동조하는 것은 아니다.

칭화대학교 의학 연구자 그룹은 4월 말 미국 의학저널 JAMA에 논문을 발표하며, 중국 내 병원에서 딥시크 AI가 "너무 빨리, 너무 이르게" 도입되고 있다고 경고했다. 논문에서는 의료기관이 "기술적으로 뒤처진 것처럼 보이지 않으려는" 사회적 분위기와 소셜미디어 담론의 압력에 직면해 딥시크 도입을 서두르고 있다고 지적했다. 실제로 딥시크가 생성한 치료 권고안을 환자가 의사에게 제시하며 반드시 따를 것을 요구하는 사례가 늘고 있다고 한다. 연구진은 "AI가 의료 분야에서 잠재력을 보여주는 만큼, 이처럼 성급하게 도입하는 것은 위험을 수반한다"고 밝혔다.

이 같은 우려는 의료계에만 그치지 않는다. 같은 대학 AI 과학자들도 지난달 딥시크의 R1 등 최신 추론모델의 기술적 돌파구가 "이전에 믿었던 것만큼 강력하지 않다"는 점을 소셜미디어를 통해 밝혔다. 연구진은 "새로운 훈련 방법이 기본 모델이 해결하지 못하는 문제를 해결하도록 만들지는 못한다"고 설명했다. 즉, AI의 혁신이 인공일반지능(AGI)으로 가는 큰 도약으로 보이지만, 실제로는 기대만큼의 성과가 나타나지 않을 수 있다는 뜻이다.

베이징대학교 베이징 일반 인공지능 연구소(BIGAI) 소장 주쑹춘 교수는 지난 3월 29일 베이징에서 열린 중관촌 포럼에서 "국가가 경쟁력을 유지하려면 더 실질적인 연구가 필요하며, 칭찬하는 헤드라인보다는 근본적인 혁신이 중요하다"고 강조했다. 주 교수는 "중국 AI 담론이 대형 모델의 성능에만 초점이 맞춰져 있고, 기본 연구와 본질적 지능에 대한 논의가 소홀해졌다"고 지적했다.

이처럼 신중론이 표면화된 것은 중국 AI 산업이 정부 주도의 하향식 추진과 과도한 선전에 휩싸인 상황에서 특히 의미가 있다. 시진핑 국가주석이 AI 도입의 중요성을 강조할수록, 공개적으로 이에 의문을 제기하는 목소리는 줄어드는 분위기다. 이에 따라 실제로는 소셜미디어 해시태그를 통해 챗봇 오류를 조롱하거나, 지방정부가 베이징의 눈치를 보느라 데이터센터를 조용히 방치하는 등 간접적 반발이 나타나고 있다.

◇ 의료 현장에서 AI 신뢰성과 책임 문제 불거져

딥시크 AI는 실제로 중국 내 300여 개 병원에 도입됐다. 임상 진단과 의료 결정 지원, 환자 관리, 병원 행정 등 다양한 분야에 적용되고 있다. 일부 병원에서는 환자 추적 효율이 40배 증가하는 등 실제 효과도 보고된다. 하지만 업계에서는 딥시크 AI가 생성하는 "그럴듯하지만 사실과 다른 결과"로 인해 임상적 위험이 커질 수 있다는 점을 우려한다. 또, AI 도입에 따른 보안과 개인정보 보호 문제도 병원들이 직접 책임져야 하는 부담으로 작용하고 있다.

중국 정부는 2014년부터 '스마트 병원' 구축을 추진해왔으며, 2023년에는 공공병원 고품질 발전 평가 지표에 AI 도입을 공식적으로 반영했다. 5G, 빅데이터, AI 등 첨단 기술이 병원 현대화의 핵심 동력으로 부상하고 있다. 하지만 AI 도입이 너무 빨리 이뤄지면서, 국민의 건강과 안전에 대한 우려가 커지고 있다는 점도 염두에 둘 필요가 있다.

최근 중국 내 300여 개 병원에서 딥시크 AI가 적용되면서, AI 생성 진단 결과에 대한 신뢰성과 책임 문제가 현장에서 불거지고 있다. 일부 의료진은 "AI가 내린 판단에 대한 책임 소재가 불분명하다"며 우려를 표한다. 실제로 AI가 제시한 치료 권고를 환자가 임상 의사 결정에 반영하도록 요구하는 사례가 늘면서, 의료진과 환자 간 갈등도 보고되고 있다. 업계에서는 AI 모델이 생성한 결과가 실제 임상 데이터와 괴리가 있을 수 있다는 점을 지적하며, AI 주도 진단이 오히려 의료 사고로 이어질 수 있다는 경고도 나온다.

◇ 기술 혁신 선전 속, 학계와 연구진 신중론 제기

칭화대 의학 연구진은 올해 4월 말 미국 의학저널 JAMA에 논문을 발표하며, "AI 도입이 너무 빨리, 너무 이르게 이뤄지고 있다"고 경고했다. 같은 대학 AI 과학자들도 최신 추론모델의 기술적 돌파구가 "이전에 믿었던 것만큼 강력하지 않다"는 점을 지난달 소셜미디어에 밝혔다. 베이징대 주쑹춘 교수는 지난 3월 29일 중관촌 포럼에서 "기본 연구와 본질적 지능에 대한 논의가 소홀해졌다"고 지적했다. 이처럼 학계와 연구진이 공개적으로 신중론을 제기한 것은 중국 AI 산업에서 이례적인 현상으로 평가된다.

홍콩시립대학교 마르코 스코릭 부교수는 "AI 시스템은 블랙박스 시스템으로, 누가 책임질지 불분명하다"며, "AI가 내린 결정에 대한 책임 소재를 명확히 해야 한다"고 강조했다. 스코릭 부교수는 "AI 도입이 빠르게 이뤄지면서, 데이터 보안과 개인정보 보호 문제도 병원들이 직접 책임져야 하는 부담으로 작용한다"고 덧붙였다.

한편 중국 내 AI 도입은 정부 주도의 하향식 추진과 과도한 선전에 힘입어 빠르게 확산되고 있지만, 최근 칭화대·베이징대 연구진이 의료 현장과 기술 연구 분야에서 신중론을 제기하며, 실제 성과와 위험에 대한 비판적 목소리가 표면화되고 있다. 이는 AI 기술의 혁신과 실제 적용 사이의 균형, 그리고 국민 안전에 대한 고려가 결국 AI 발전의 지속 가능성을 좌우할 것임을 시사한다.

박정한 글로벌이코노믹 기자 park@g-enews.com