미중 패권 다툼 속 통제 불능 인공지능 공포…배선트 "비상 통보선 구축" 제안

스콧 배선트 미국 재무장관이 인공지능 사고 발생 시 미국과 중국이 비상 통보하는 체계 구축을 제안할 계획이며 중국 지도부 역시 동의할 가능성이 크다고 내다봤다.

악시오스는 10월 3일(현지시각) 자사 대담 프로그램을 인용해 배선트 장관이 시진핑 주석의 국빈 방문에 앞서 허리펑 중국 부총리와 미국 모델 대비 90% 수준 성능을 내는 개방형 기술 위험을 통제하기 위한 직통 채널 설치를 논의했다고 보도했다. 미국과 중국이 기술 패권 경쟁 속에서도 생물학 테러와 사이버 공격을 차단할 최소한의 안전선 마련에 착수함에 따라 자체 거대언어모델을 개발하는 한국 정보기술 기업도 글로벌 보안 인증과 방어 체계 기준 강화라는 직접적인 영향 경로에 놓인다.


미국 재무부는 지난달 열린 미중 경제 수장 회담에서 통제 범위를 벗어난 인공지능 자율 작동체(에이전트)와 비국가 행위자의 기술 악용을 핵심 논의 과제로 다뤘다. 국가가 아닌 테러 집단이나 해커가 인공지능을 생물학 공격이나 기간망 교란에 투입하는 상황을 양국 공통의 안보 위험으로 규정했다. 배선트 장관은 중국 지도부가 자국 개방형(오픈소스) 인공지능 모델의 파급력을 온전히 가늠하지 못했다고 짚었다.
배선트 장관은 중국 인공지능 모델인 키미가 중국 내부의 민감한 정보를 미국의 인공지능 개발사 앤스로픽으로 전송한 사건을 주요 사례로 지목했다. 이 같은 사건을 겪으며 중국 당국 역시 통제받지 않는 인공지능 기술의 위력과 내부 체제 위협 가능성을 실감하게 됐다는 설명이다. 중국 정보기관 수장인 국가안전부장 역시 지난달 인공지능이 정부를 겨냥한 정보전과 인지전에 악용돼 사상적·정치적 안정을 흔들 수 있다고 경고한 바 있다.


배선트 장관은 중국산 개방형 인공지능 모델의 성능과 유통 경로에 대해 직접적인 평가를 내렸다. 배선트 장관은 인터뷰에서 많은 중국 모델이 매우 강력하다며 미국 모델 수준까지는 아니더라도 80%에서 90%에 달하는 성능을 발휘한다고 말했다. 안전장치(가드레일)가 빠진 고성능 개방형 모델이 전 세계 어디로든 무차별 유입될 수 있다는 점이 미국 정부가 파악한 안보 위험의 본질이다.

초거대 첨단 모델을 향한 질주 경쟁에 대해서도 통제를 강조했다. 모델 통제력을 잃을 수 있다고 우려하는 기업 최고경영자들을 향해 배선트 장관은 그렇다면 속도를 늦춰야 한다고 단언했다. 미국 정부는 현재 연구소 자율 검토 방식을 유지하고 있으나 안전 기준을 외면하는 개발에는 직접 개입할 권한을 유보하고 있다. 배선트 장관은 미국이 최첨단 모델 경쟁에만 치우쳐 방어망 구축을 소홀히 했다는 점을 짚으며 시스템 회복력과 방어 체계에 더 많은 관심을 기울여야 한다고 촉구했다.


미국과 중국이 비상 통보선 구축에 나서고 인공지능 방어 체계를 강조함에 따라 글로벌 기술 규제 환경은 안전성 사전 검증 중심으로 전환되는 경로를 밟는다.
원인은 미국 행정부가 최첨단 모델 개발 일변도에서 벗어나 안전판 장착과 시스템 복원력 확보를 공식 요구하기 시작한 데 있다. 파급 경로는 독자 거대언어모델과 기업용 소프트웨어를 공급하는 한국 테크 기업들의 글로벌 공급망 계약과 클라우드 배포 절차로 이어진다. 미국 정부가 안전 우려에 대한 직접 개입 방침을 밝히면서 해외 시장 진출에 필수적인 안전성 인증 문턱이 함께 상향되기 때문이다.

이러한 규제 변화에 따라 인공지능 오작동 방지 검증과 모의 해킹(레드팀) 점검 등 보안 시스템 투자 비용은 증가세를 보이고 있다. 구체적인 비용 규모는 기업별로 공시되지 않았다.

향후 시장은 단순 연산 성능 경쟁에서 벗어나 검증된 안전망을 확보한 보안 플랫폼 중심으로 재편될 가능성이 크다. 다만 미중 간 외교 갈등 심화로 비상 통보선 합의가 결렬되고 개방형 모델의 무제한 유통이 방치될 경우 다자간 방어선 구축 논의는 성립하기 어렵다. 향후 시장의 핵심 변수는 제안된 비상 소통선이 양국 실무 협의를 통해 공식 규약으로 채택되는 시점과 미국 국무부 및 상무부가 제시할 개방형 인공지능 안전 통제 규칙의 구체적 수준이다.


김주원 글로벌이코노믹 기자 park@g-enews.com