;)
;)
;)
가짜 계정 2만5000개로 2880만건 대화 생성 주장…美의회에 중국 AI 제재 촉구
이미지 확대보기
미국 인공지능(AI) 기업 앤스로픽이 중국 전자상거래·클라우드 대기업 알리바바를 상대로 자사 AI 모델 클로드에 불법적으로 접근했다고 주장했다.
앤스로픽은 알리바바가 가짜 계정을 대규모로 만들어 클로드의 고급 기능을 빼내려 했다고 보고 미국 의회에 중국 AI 연구소에 대한 규제 강화를 요구했다.
25일(이하 현지시각) 파이낸셜타임스(FT)에 따르면 앤스로픽은 최근 미국 상원 은행위원회에 보낸 서한에서 알리바바가 클로드의 능력을 불법적으로 추출하기 위한 최대 규모의 작전을 벌였다고 주장했다.
앤스로픽은 알리바바가 2만5000개의 허위 계정을 이용해 클로드와 2880만건이 넘는 대화를 생성했다며 이같이 밝혔다. 앤스로픽은 이 행위가 회사의 서비스 약관을 위반한 것이라고 주장했다. 앤스로픽은 중국 기업에는 클로드를 제공하지 않고 있다.
앤스로픽은 이 서한에서 알리바바의 행위가 클로드의 핵심 능력을 겨냥했다고 설명했다. 대상에는 에이전트형 추론, 소프트웨어 엔지니어링, 장기간에 걸친 복잡한 작업 수행 능력 등이 포함됐다고 밝혔다.
◇ 앤스로픽 “중국 AI 연구소 접근 차단해야”
앤스로픽은 미국 의회에 중국 AI 연구소가 첨단 미국 반도체에 접근할 수 있는 허점을 막고 모델 증류 공격에 책임이 있는 중국 연구소를 제재해야 한다고 촉구했다.
모델 증류는 대형 AI 모델의 출력 결과를 이용해 더 작고 저렴한 모델을 학습시키는 방식이다. 기술 업계에서는 널리 쓰이는 방법이지만 미국 AI 기업들은 중국 경쟁사가 이를 통해 미국의 첨단 모델 능력을 확보할 경우 국가안보상 문제가 될 수 있다고 주장하고 있다.
앤스로픽은 앞서 중국 AI 연구소 디프시크, 문샷, 미니맥스도 클로드의 출력물을 부당하게 이용해 각사 모델을 학습시켰다고 주장한 바 있다. 오픈AI도 중국 기업들이 비슷한 방식으로 자사 모델의 능력을 빼내려 했다고 주장해왔다.
앤스로픽은 알리바바가 백악관이 AI 연구소 지식재산권의 대규모 탈취를 막아야 한다는 메모를 낸 뒤에도 이같은 시도를 했다고 주장했다.
◇ 알리바바, 美 압박 속 추가 악재
이 의혹은 미국 내 알리바바 압박이 커지는 가운데 나왔다. 알리바바는 전자상거래와 클라우드 컴퓨팅을 비롯해 중국 기술산업 전반에서 영향력이 큰 기업이다.
알리바바는 이번 주 미국 법원에 미국 국방부의 중국군 연계 기업 블랙리스트에서 자사를 제외해줄 것을 요청했다. 알리바바는 중국 인민해방군과 관련이 없다고 부인해왔다.
FT는 지난해 11월 백악관이 알리바바가 중국군의 미국 목표 대상 작전에 기술 지원을 제공했다고 판단했다고 보도한 바 있다. 알리바바는 이 주장도 강하게 부인했다.
홍콩 증시에서 알리바바 주가는 이날 4% 넘게 하락했다.
백악관 관계자는 “미국 AI 모델의 산업적 증류는 용납할 수 없다”며 “악의적 행위자에게 책임을 묻겠다”고 밝혔다.
◇ AI 기술 경쟁, 안보 문제로 확산
앤스로픽은 지난해 중국계 기업에 대한 AI 서비스 제공을 중단한 첫 미국 AI 기업이 됐다. 앤스로픽은 중국 정부가 자사 기술을 군사·정보 활동에 활용할 가능성을 제한하려는 조치라고 설명했다.
AI 모델을 둘러싼 미중 갈등은 반도체 수출통제에서 모델 접근 제한과 지식재산권 보호 문제로 넓어지고 있다. 미국 AI 기업들은 중국 경쟁사가 미국 모델의 출력물을 이용해 빠르게 기술 격차를 좁히는 것을 우려하고 있다.
특히 고급 사이버 능력을 가진 AI 모델은 안보 우려가 더 크다. FT는 “미국 정부는 앤스로픽의 고급 AI 모델을 중국 등 적대국을 상대로 한 사이버 공세 작전에 활용하는 방안을 앤스로픽과 협의해왔다”고 전했다.
이번 사안은 AI 기업의 서비스 약관 위반 문제를 넘어 미국과 중국의 첨단기술 경쟁, 반도체 수출통제, AI 모델 보안, 사이버 안보가 맞물린 쟁점으로 번지고 있다. 앤스로픽의 주장이 미국 의회의 규제 논의로 이어질 경우 중국 AI 기업의 미국 모델 접근과 학습 방식에 대한 감시가 한층 강화될 가능성이 있다는 관측이 나온다.
김현철 글로벌이코노믹 기자 rock@g-enews.com
