中 AI ‘증류’는 절도인가…美 제재 카드 만지작

미국 안보기관들이 중국 인공지능(AI) 기업 6곳이 미국의 최첨단 AI 모델을 이용해 자사 모델을 훈련시키는 대규모 ‘증류’ 작업을 벌였다고 지목하면서 AI 증류가 합법적인 기술 학습인지 지식재산 침해인지가 미·중 기술 패권 경쟁의 새 쟁점으로 떠올랐다.

9일(이하 현지시각) 월스트리트저널(WSJ)에 따르면 미국 국가안보국(NSA), 연방수사국(FBI) 등 보안기관들은 중국 AI 기업들이 미국 AI 모델을 체계적으로 활용해 ‘공격적이고 악의적이며 표적화된 산업적 규모의 증류 활동’을 벌였다고 전날 주장했다.

미 당국에 따르면 중국 업체들은 앤스로픽의 클로드, 오픈AI의 챗GPT, 구글의 제미나이, xAI의 그록 등 미국의 최첨단 AI 모델과 수백만차례 정보를 주고받았다.

논란의 핵심은 ‘증류’가 무엇이며 어디까지 허용될 수 있느냐다.
AI 모델을 처음 훈련시킨 뒤에는 이용자의 질문에 자연스럽게 답하고 추론하는 능력을 추가로 다듬는 과정이 필요하다. 이때 사람이 일일이 질문과 모범답안을 제공하는 대신 성능이 뛰어난 기존 AI를 ‘교사 모델’로 활용할 수 있다.

교사 모델에 질문을 던져 답변과 추론 과정을 얻은 뒤 이를 새로운 ‘학생 모델’의 추가 학습에 사용하는 방식이다. 기존 모델의 능력을 새 모델에 이전하는 이 과정이 증류다.


미국 당국은 중국 AI 업체들의 증류가 단순한 보조 수단을 넘어 중국 AI 개발의 ‘핵심’이라고 주장하고 있다.

앤스로픽의 한 임원은 지난 7월 증류를 통해 중국과 미국의 AI 기술 격차가 종전 12~18개월에서 약 6~9개월까지 좁혀졌다고 주장했다.
하지만 중국 측 평가는 다르다.

미국이 지목한 기업들은 증류 여부를 직접 부인하지는 않았지만 문샷AI의 한 임원은 지난 7월 ‘키미 K3’를 공개한 뒤 이 모델의 성능 향상은 증류나 복제가 아니라 근본적인 기술 혁신에 기반한 것이라고 밝혔다.

중국 외교부 대변인도 9일 미국을 향해 근거 없는 비난과 중국에 대한 먹칠을 중단하라고 반박했다.

미국 내부에서도 증류가 중국의 최근 AI 발전을 설명하는 결정적인 요인은 아니라는 견해가 나온다. 오픈AI의 딘 볼 임원 등 일부 연구자는 증류가 AI 경쟁 초기에 중국 기업을 도왔을 가능성은 있지만 최근 기술 발전의 주된 이유로 보기는 어렵다고 평가한다.


증류가 모두 문제가 되는 것은 아니다.

기업이 자사의 대형 AI 모델을 증류해 스마트폰에서도 구동할 수 있는 소형 모델을 만드는 것은 일반적인 활용 사례다. 내려받아 자유롭게 수정할 수 있는 오픈웨이트 모델을 증류하는 것도 폭넓게 받아들여지고 있다.

문제는 클로드 같은 폐쇄형 모델을 이용하는 경우다.

일부 법률 전문가들은 다른 회사의 폐쇄형 모델을 증류했다고 해도 그 행위 자체만으로 곧바로 절도에 해당한다고 보기는 어렵다고 지적한다.

AI가 생성한 답변 자체를 책이나 영화와 같은 지식재산으로 인정하기 어려울 가능성이 있고, 설령 보호 대상이라고 하더라도 증류 과정에서는 답변을 그대로 복제하는 것이 아니라 이를 학습에 이용하기 때문이다.

그러나 미국 정부는 중국 기업들의 증류 방식이 정상적인 이용 수준을 넘어섰다고 주장한다.

앤스로픽은 지난 2월 중국 업체들이 허위 계정과 프록시 서비스를 이용해 탐지를 피하면서 대규모로 클로드에 접속했다고 밝혔다.

이처럼 서비스 제공자의 통제를 우회하면서 폐쇄형 AI의 출력을 체계적으로 수집했다면 단순한 모델 학습과는 다른 문제라는 것이 미국 측의 시각이다.


미국 정부는 중국 AI 기업에 대한 제재 가능성도 열어두고 있다.

스콧 베선트 미 재무부 장관은 지난 7월 중국 기업들이 은밀하게 산업적 규모의 증류 작업을 벌여 지식재산 절도의 선을 넘을 경우 제재나 수출통제 대상인 ‘엔티티 리스트’ 등재를 검토할 수 있다고 밝혔다.

다만 이번 발표에서 미국 보안기관들은 정부와 기업이 대규모 증류에 공동 대응해야 한다고 촉구했을 뿐 특정 중국 기업에 대한 구체적인 제재 방안은 제시하지 않았다.

미국 AI 업체들이 중국 경쟁사를 상대로 소송에 나설 가능성도 있다.

앤스로픽은 중국 기업의 클로드 이용을 약관으로 금지하고 있고 다른 미국 AI 기업들도 경쟁 모델 개발을 위한 증류 등을 제한하는 규정을 두고 있다.

일부 변호사들은 중국 업체들이 이런 조건을 위반했다는 점을 근거로 미국 기업들이 소송을 제기할 수 있다고 보고 있다. 중국 경쟁사가 미국 AI를 증류해 훨씬 낮은 비용으로 경쟁 모델을 개발하면서 미국 기업의 매출에 피해를 줬다는 논리를 펼 수 있다는 것이다.

그러나 중국 기업들이 해외 중개업자를 이용했다면 확실한 증거를 확보하기가 쉽지 않고 기술 발전 속도가 빠른 AI 산업에서 장기간 법정 다툼을 벌이는 실익도 크지 않다는 지적이 나온다.


WSJ에 따르면 증류 문제는 이달 말 워싱턴에서 예정된 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담에서도 쟁점으로 떠오를 가능성이 있다.

베선트 장관이 중국 AI 기업에 대한 블랙리스트 등재 방침을 실제로 추진할 경우 미국을 비롯한 해외 이용자들의 중국 AI 모델 접근이 제한될 수 있고 제재와 소송이 중국 개발업체들의 사업에도 타격을 줄 수 있다고 WSJ는 전했다.

다만 미국 기술업계 안에서도 광범위한 증류 규제를 경계하는 목소리가 나온다.

엔비디아, 마이크로소프트 등이 참여한 지난 7월 공개서한은 AI 혁신에 중요한 역할을 하는 기술을 포괄적으로 제한하는 데 신중해야 한다며 불법적인 증류 행위는 광범위한 금지보다는 구체적인 법적·상업적 수단으로 다뤄야 한다고 주장했다.

결국 미·중 AI 경쟁에서 증류 논쟁의 핵심은 기술 자체보다 그 기술을 어떻게 이용했는지에 모아지고 있다. 정상적인 모델 학습과 경쟁사의 폐쇄형 AI에 대한 조직적인 우회 접근 사이의 경계를 어디에 그을지가 향후 AI 기술 규제와 미·중 패권 경쟁의 중요한 변수로 부상하고 있다.


김현철 글로벌이코노믹 기자 rock@g-enews.com