"해커의 무기인가, 보안관의 갑옷인가"… 中 오픈소스 AI 확산에 '사이버 안보 딜레마'

누구나 모델의 핵심 매개변수(가중치)를 내려받아 자유롭게 수정하고 자체 서버에 구축할 수 있는 '오픈웨이트(Open-weight) AI'가 미국 빅테크의 폐쇄형 아성에 맞서는 중국의 핵심 기술 무기로 급부상한 가운데, 이 모델들이 전 세계 사이버 보안을 위협하는 치명적인 무기가 될지 아니면 디지털 인프라를 지키는 방어용 갑옷이 될지를 둘러싸고 글로벌 안보·기술 커뮤니티에서 치열한 격론이 벌어지고 있다.

미국 진영에서는 오픈웨이트 모델의 내부 안전장치가 손쉽게 무력화되어 악의적 해커들의 사이버 무기로 악용될 수 있다고 경고하는 반면, 글로벌 보안 전문가들과 수비 진영에서는 오픈 모델을 전면 규제할 경우 취약점을 먼저 찾아내 방어해야 하는 보안 연구자들의 손발을 묶어 인터넷 생태계 전반을 더 큰 위험에 빠뜨릴 수 있다고 맞서고 있다.

26일(현지시각) 홍콩 사우스차이나모닝포스트(SCMP)에 따르면, 딥시크(DeepSeek), 지푸AI(Z.ai), 알리바바 등 중국 테크 기업들이 공개한 최신 오픈웨이트 모델들이 미국 선도 모델과 맞먹는 고성능을 입증하면서 사이버 보안 거버넌스를 둘러싼 논쟁이 최고조에 달했다.

최근 인터넷 핵심 프로그래밍 언어인 PHP에서 발견된 치명적 제로데이 취약점 등 사이버 위협이 고도화되는 상황에서, 미국 AI 안전 스타트업 앤트로픽(Anthropic)은 최근 보고서를 통해 "중국 Z.ai의 오픈웨이트 모델 'GLM-5.3'이 자사의 폐쇄형 플래그십 모델인 '클로드(Claude)'에 필적하는 정교한 사이버 공격 수행 능력을 갖췄음에도, 오픈소스 특성상 악용을 막을 안전장치가 결여되어 있다"고 지적하며 논란에 불을 지폈다.

오픈웨이트 모델을 둘러싼 가장 큰 안보적 우려는 '통제권의 부재'다.

오픈AI의 GPT나 앤트로픽의 클로드 같은 폐쇄형(Closed) 모델은 중앙 클라우드 애플리케이션 프로그래밍 인터페이스(API)를 통해서만 접근할 수 있어, 비정상적이거나 악의적인 해킹 공격 시도가 감지되면 개발사가 즉시 계정을 차단하고 프롬프트 요청을 거부할 수 있다.

반면 오픈웨이트 모델은 사용자가 가중치 파일을 통째로 다운로드해 독립된 폐쇄망이나 개인 서버에서 실행하므로 외부 감시가 원천 차단된다.

특히 최근에는 모델 내부의 가중치 행렬을 직접 편집해 윤리적 거부 반응을 완전히 지워버리는 '어블리터레이션(Abliteration·강제 절제)' 기술이 보편화되면서, 범죄 조직이나 테러 집단이 아무런 제약 없이 군사급 사이버 무기나 악성코드를 생성하도록 모델을 개조할 수 있게 됐다.

미국 비영리 AI 안전 연구단체 Far.AI의 에드워드 이(Edward Yee) 최고성장책임자는 "오픈웨이트 모델은 본질적으로 오용에 노출되는 공격 표면(Attack Surface)이 훨씬 넓다"며 "한번 대중에 방출된 가중치는 위험성이 뒤늦게 발견되더라도 회수할 방법이 없어 공격자에게 영구적인 무제한 접근권을 주는 셈"이라고 경고했다.
유엔 산하 '테크 어게인스트 테러리즘' 역시 최근 보고서에서 "안전장치가 파괴된 오픈 모델은 테러리스트의 공격 계획을 쉽게 지원하는 반면, 폐쇄형 모델은 이를 철저히 차단하고 있다"며 규제 필요성을 역설했다.


그러나 반대편에서는 오픈 모델이 폐쇄 모델보다 본질적으로 더 위험하다는 주장은 실증적 근거가 부족하다고 반박한다.

베이징 소재 AI 안전 컨설팅 기업 콘코디아 AI(Concordia AI)의 오스카 갈리예프 연구원은 "실제 해커들은 폐쇄형이든 개방형이든 자신의 목적에 가장 효율적인 도구를 비교 선택할 뿐"이라며 "지금까지 가중치를 공개했기 때문에 실제 세계에서 더 파괴적인 피해가 발생했다는 결정적 증거는 없다"고 일축했다.

그는 이어 "폐쇄형과 개방형은 실패하는 양상이 다를 뿐이며, 본질적인 질문은 '모델이 열려 있느냐 닫혀 있느냐'가 아니라 '특정 모델이 지닌 절대적인 능력치가 초래하는 한계 위험이 얼마인가'여야 한다"고 강조했다.

전 오픈AI 연구원이자 'AI 2027 예측 프로젝트'의 저자인 대니얼 코코타일로 역시 "모든 모델은 공개 여부와 상관없이 오직 그 '능력의 크기'에 비례해 위험하다"며 오픈웨이트 모델에만 안보 위험의 프레임을 씌우는 것을 경계했다.

오히려 폐쇄형 모델의 경우 개발사 내부의 재귀적 자기 개선(Recursive Self-improvement) 등 복잡한 알고리즘이 외부 검증 없이 블랙박스 속에 감춰져 있어 인간의 감독을 더 어렵게 만든다는 지적도 나온다.


무엇보다 전문가들이 우려하는 것은 오픈웨이트 규제가 가져올 '방어 역량의 붕괴'다. AI 기술은 본질적으로 창과 방패의 성격을 동시에 지닌 이중용도(Dual-use) 기술이기 때문이다.

공격자가 소프트웨어 취약점을 뚫어내는 동일한 AI 알고리즘이, 보안 전문가들에게는 해커보다 먼저 취약점을 탐지하고 패치 코드를 짜내는 최선의 방패가 된다.

실제로 폐쇄형 모델은 엄격한 안전 필터 때문에 취약점 분석이나 침투 테스트(모의 해킹) 같은 정당한 화이트해커의 분석 요청마저 '유해한 공격'으로 오인해 거부하는 경우가 잦다. 지난 7월 글로벌 오픈소스 플랫폼 허깅페이스(Hugging Face)가 사이버 침해 조사를 진행할 당시, 미국 폐쇄형 모델들이 지원을 거부하자 연구진은 중국 Z.ai의 오픈웨이트 모델 'GLM-5.2'를 사내 로컬 서버에 올려 침해 로그를 분석하고 사태를 수습한 바 있다.

선전의 한 엔지니어 역시 "클라우드 폐쇄형 모델을 쓰는 것은 임대주택에 사는 것과 같아서 민감한 서버 자격 증명이나 시스템 로그를 외부로 유출할 위험이 크다"며 "오픈 모델을 자체 인프라에서 구동해야만 기밀 유출 없이 보안 사고를 완벽히 재구성할 수 있다"고 증언했다.

싱가포르 프런티어 AI 평가기관 NEO리서치의 클레멘트 네오 대표는 "오픈 모델을 전면 금지하면 범죄자보다 법과 규율을 지키는 방어자들이 훨씬 더 큰 타격을 입는다"고 단언했다.

메타(Meta)의 전 AI 보안 기술 총괄이자 어번던트 시큐리티 창립자인 조슈아 삭스는 "해커들은 규제나 컴플라이언스 절차를 따르지 않는다"며 "방어자의 도입 속도를 늦추는 인위적인 제한은 글로벌 디지털 인프라를 더 취약하게 만들 뿐이므로, 규제의 초점은 모델 자체가 아니라 악의적 사용자를 식별하고 차단하는 데 맞춰져야 한다"고 제언했다.


이러한 논쟁의 이면에는 미국과 중국 간의 치열한 AI 패권 다툼이 깔려 있다.

막대한 자본력과 독점 칩 인프라를 독식한 미국 빅테크에 맞서, 중국은 오픈웨이트 방출을 통해 전 세계 개발자 생태계를 포섭하고 글로벌 시장 점유율을 장악하는 '비대칭 우회 전략'을 펼치고 있다.

중국 업계 역시 마냥 방관하고 있지만은 않다. 중국 국가정보보안표준화기술위원회(TC260)는 오픈웨이트 모델의 안전장치 해제 리스크를 인지하고 최근 전용 보안 표준 초안 작성에 착수했다. Z.ai 등 주요 스타트업들도 가중치 공개 시 발생하는 단계별 위험을 체계적으로 통제하는 거버넌스 프레임워크를 개발하고 있다.

글로벌 기술 안보 전문가들은 "오픈웨이트 AI는 첨단 사이버 방어력의 민주화라는 거대한 기회와, 통제 불가능한 오용이라는 양날의 검을 동시에 쥐고 있다"며 "무조건적인 봉쇄나 맹목적인 자유 방임에서 벗어나, 안전 검증을 마친 신뢰할 수 있는 수비 진영에 모델을 단계적으로 개방하는 정밀한 거버넌스 구축이 시급하다"고 평가했다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com