"사용자 몰래 로컬 코드를 서버로"… 中 즈푸 AI, 무단 업로드 발각에 신뢰 '추락'

중국의 대표적인 인공지능(AI) 파운데이션 모델 개발사인 즈푸 AI(Zhipu AI·글로벌 브랜드명 Z.ai)가 자사의 공식 코딩 보조 소프트웨어를 통해 사용자의 사전 동의 없이 로컬 컴퓨터 내 프로젝트 소스코드와 작업 디렉터리 데이터를 외부 서버로 은밀히 업로드해 온 사실이 드러나 심각한 신뢰성 위기에 직면했다.

특히 유출 시도된 데이터에 개발자들이 진행 중이던 상업용 프로젝트의 전체 스냅샷과 형상 관리(Git) 변경 이력까지 통째로 포함되어 있었던 것으로 확인되면서, 글로벌 개발자 커뮤니티와 기업 고객들 사이에서 기업 기밀 유출에 대한 공포가 일파만파로 확산되고 있다.

즈푸 AI는 논란이 일자 공식 사과문을 발표하고 취약점 긴급 패치와 데이터 즉시 파기 방침을 밝혔으나, 사이버 보안과 데이터 주권이 글로벌 기술 패권 경쟁의 핵심 안보 이슈로 부상한 시점에서 회사의 대외적 평판과 해외 진출에 치명타가 될 것이라는 관측이 지배적이다.

9월 21일(현지시각) 홍콩 영자 일간지 사우스차이나모닝포스트(SCMP) 보도에 따르면, 이번 무단 유출 사태는 중국의 독립 테크 블로거인 페르스타(Ferstar)가 ZCode의 로컬 작동 프로세스를 정밀 역분석하는 과정에서 수면 위로 드러났다.

페르스타의 분석 결과에 따르면, ZCode 클라이언트는 로컬 작업 공간에서 추출한 약 313메가바이트(MB) 규모의 암호화된 압축 파일을 알리바바 클라우드 스토리지 서비스로 전송하기 위해 무려 564차례나 업로드를 시도한 상태였다.

그에 앞서 약 15킬로바이트(KB) 크기의 소형 암호화 파일은 이미 서버로 전송이 완료된 상태였다.

문제의 압축 파일 내부에는 그가 작업 중이던 실제 상업용 프로젝트의 실시간 소스코드 스냅샷은 물론, 전체 개발 이력이 담긴 깃(Git) 기록이 고스란히 담겨 있었다.

이 파일은 로컬 사용자나 ZCode 클라이언트 자체로는 열람할 수 없으며, 오직 즈푸 AI 백엔드 중앙 서버에 보관된 비밀 키로만 복호화할 수 있도록 설계되어 있었다.
더욱 큰 충격을 준 점은 이러한 대규모 로컬 데이터 업로드 기능이 프로그램 설치 시 기본값(Default)으로 강제 활성화되어 있었고, 설정 화면 내에 이를 비활성화할 수 있는 토글 버튼조차 존재하지 않았다는 사실이다.

또 다른 유명 기술 블로거 펑루오항을 비롯한 복수의 개발자들 역시 자신의 시스템에서 동일한 형태의 파일 무단 전송 로그를 포착하며 논란은 걷잡을 수 없이 증폭됐다.


비난 여론이 빗발치자 즈푸 AI는 공식 페이슈(Feishu) 커뮤니티 성명을 통해 문제점을 시인하고 피해 사용자들에게 공식 사과했다.

회사는 해당 취약점을 즉시 패치했다고 밝히며 투명성 제고를 위해 ZCode의 코드베이스를 외부에 전면 오픈소스로 공개하고 제3자 보안 전문 평가 기관의 감사를 받겠다고 약속했다.

또한, 모든 사용자에게 주간 이용 할당량을 무상 리셋해 주는 보상책을 내놨다.

즈푸 AI는 외부로 전송된 데이터가 서버 수신 즉시 완전히 파기되었다고 해명하며, 향후 서비스형 모델(MaaS) 플랫폼에서 사용자 프롬프트 입출력 데이터의 영구 저장을 원천 금지하는 '데이터 비보존(Zero Data Retention) 정책'을 도입하겠다고 밝혔다.

그러나 개발자 커뮤니티의 불신은 쉽게 가라앉지 않고 있다.

취약점을 처음 고발한 페르스타는 "서버로 이미 넘어간 데이터가 실제로 즉각 파기되었는지를 외부 사용자가 기술적으로 어떻게 검증할 수 있느냐"며 회사의 해명에 강한 의문을 제기했다.


이번 사태로 인한 파장은 중국 국내외 산업계 전반으로 일파만파 번지고 있다.

상하이의 AI 개발자인 투시(Tuxi)는 "사용자의 로컬 개발 자산을 동의 없이 가져간 것은 본질적으로 도둑질과 다름없으며, 숨겨진 악의적 의도를 의심할 수밖에 없다"며 "즈푸의 기반 거대언어모델(GLM) 자체의 성능과 별개로, 개발자 커뮤니티가 브랜드에 대해 가졌던 신뢰는 회복 불가능한 타격을 입었다"고 비판했다.

실제로 중국 내 유력 산업 현장에서는 즉각적인 차단 조치가 내려지고 있다.

익명을 요구한 중국 대형 로봇 제조사의 고위 소프트웨어 엔지니어는 "사내 소스코드 및 핵심 기술 유출 위험이 확인된 이상 위험을 감수할 수 없다"며 "보안 가이드라인에 따라 전사 차원에서 즈푸 AI의 모든 도구 사용을 전면 금지했다"고 밝혔다.

이번 사건은 앞서 글로벌 시장에서 논란이 되었던 앤스로픽의 클로드 코드(Claude Code) 및 xAI의 그록 빌드(Grok Build) 데이터 수집 논란에 이어 터져 나온 것으로, AI 소프트웨어가 코딩 생산성 도구를 넘어 기업 내부망을 침투하는 잠재적 사이버 위협으로 변질될 수 있음을 보여준다.

즈푸 AI의 무단 업로드 사태는, 모델 성능 경쟁에만 매몰되었던 생성형 AI 산업이 '데이터 프라이버시와 사용자 주권'이라는 가장 근본적인 윤리적·기술적 시험대에 직면했음을 드러낸 사건으로 평가된다.

아울러 다음 주로 예정된 미·중 정상회담에서 AI 사이버 보안과 안전 규범이 핵심 의제로 다뤄질 것으로 예상되는 가운데, 중국 대표 AI 모델의 보안 불감증은 서방의 대중국 AI 기술 제재와 데이터 차단 명분을 한층 강화해 주는 부메랑이 될 전망이다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com