앤스로픽 AI 동결, 美 수출통제 시험대 됐다

도널드 트럼프 행정부가 앤스로픽의 최신 인공지능(AI) 모델을 공개 며칠 만에 동결하면서 미국의 AI 통제 방식이 시험대에 올랐다.

미국 정부는 국가안보를 이유로 외국인 접근을 막았지만 업계에서는 AI 모델의 안전 문제를 수출통제로 다루는 방식이 과도하고 부적절하다는 비판이 나오고 있다.

미국 상무부는 지난 12일(이하 현지시각) 앤스로픽의 최신 모델 페이블과 미토스에 수출통제를 적용해 외국 국적자의 사용을 금지했다. 앤스로픽은 두 모델에 대한 이용자들의 접근을 모두 중단했다.

15일 파이낸셜타임스(FT)에 따르면 앤스로픽은 약 9000억달러(약 1363조원)의 기업가치를 인정받는 AI 기업이다. 이 회사는 정부 명령을 이행하는 데 90분만 부여받았고 명령 전 구체적인 우려 사항도 전달받지 못한 것으로 전해졌다.
앤스로픽은 주말 동안 고위 기술팀을 워싱턴으로 급파해 사태 수습에 나섰다. 회사 측은 정부와 협의해 향후 조치를 논의하고 있다고 밝혔다.


FT에 따르면 이번 조치가 더 논란을 부른 것은 페이블 모델이 출시 며칠 전 같은 상무부 산하 기관들의 시험과 승인을 거쳤다는 점이다. 정부 내부 절차를 통과한 모델이 공개 직후 다시 국가안보 우려를 이유로 동결되면서 프런티어 AI 모델에 대한 미국 정부의 감독 기준이 불분명하다는 지적이 나온다.

이번 지시는 아마존 연구진이 페이블 모델에서 이른바 ‘탈옥’ 가능성을 확인한 뒤 내려진 것으로 알려졌다. 탈옥은 AI 모델의 안전장치를 우회해 원래 제공해서는 안 되는 정보를 끌어내는 행위를 뜻한다. 아마존 연구진은 특정 방식의 질문을 통해 소프트웨어 보안 취약점 관련 정보를 얻을 수 있다고 판단했다.

아마존은 이 내용을 앤스로픽에 먼저 공유했고 앤디 재시 아마존 최고경영자(CEO)는 12일 미국 정부 당국자들과 관련 사안을 논의했다. 아마존은 앤스로픽에 130억달러(약 19조7000억원)를 투자한 주요 투자자다.

다만 FT는 “재시 CEO가 앤스로픽 특정 모델만의 문제가 아니라 프런티어 AI 모델 전반의 능력과 위험을 제기한 것으로 파악된다”고 전했다.

앤스로픽은 정부가 자사 모델만을 겨냥한 데 반발하고 있다. 이 회사는 이번에 지적된 능력이 페이블만의 고유한 문제가 아니며 오픈AI 등 경쟁사 모델에서도 유사하게 나타날 수 있다고 주장한다.

보안 전문가들도 대형 AI 모델의 탈옥 문제를 완전히 없애기는 어렵다고 보고 있다. 안전장치를 고쳐도 새로운 우회 방식이 계속 등장할 수 있기 때문이다.

오픈AI 전 이사회 멤버인 헬렌 토너 조지타운대 안보·신흥기술센터 이사는 “이런 모델의 탈옥을 완전히 고칠 수 없다는 점은 널리 받아들여지는 사실”이라며 오픈AI와 구글 모델도 비슷한 능력을 갖고 있을 가능성이 있다고 말했다.

보안업체 루타시큐리티의 케이티 무수리스 CEO도 아마존이 확인했다는 능력이 특별히 드문 것은 아니라고 지적했다. 그는 오픈AI의 GPT-5.5 같은 경쟁 모델도 같은 일을 할 수 있다며 앤스로픽 모델의 안전장치는 의도한 대로 작동하고 있었다고 주장했다.


이번 사태의 핵심은 미국 정부가 AI 모델 안전 문제를 수출통제로 다뤘다는 점이다. 수출통제는 원래 반도체, 첨단 장비, 군사 전용 가능성이 있는 기술의 해외 이전을 막는 데 쓰여왔다. 이를 AI 모델 접근 제한에 적용하면서, 소프트웨어 자체가 본격적인 전략 물자로 취급될 수 있다는 신호가 나왔다.

업계에서는 이런 방식이 AI 기업들의 모델 출시와 해외 연구협력, 동맹국 대상 서비스 제공에 큰 불확실성을 만들 수 있다고 우려한다. 특히 정부가 구체적 기준을 공개하지 않은 채 특정 모델을 갑자기 동결하면 기업들은 어떤 수준의 능력이 수출통제 대상이 되는지 예측하기 어렵다.

토너 이사는 정부가 선택한 수단인 수출통제가 목표에 잘 맞지 않는다고 비판했다. 그는 이 조치가 외국 정부의 사용을 막지만 지금은 오히려 동맹국들이 사이버방어를 위해 이런 모델을 활용해야 할 시기라고 말했다.


유럽연합(EU) 집행위원회도 이번 조치의 영향을 검토하고 있다. EU는 최근 앤스로픽의 최신 모델 접근 권한을 확보한 상태였다.

EU 집행위는 이들 모델이 사이버방어에 중요한 이익을 제공할 수 있지만 동시에 심각한 사이버보안 우려도 제기한다고 밝혔다. 그러면서 이 문제는 특정 기업이나 특정 관할권에만 국한된 것이 아니라 공동의 과제라고 강조했다.

집행위는 이런 상황에서 취해지는 비상조치가 파트너에게 차별적으로 적용돼서는 안 된다고 지적했다. 미국의 AI 수출통제가 동맹국의 안보 활용까지 막을 경우, 미국 중심 AI 동맹 전략에도 부담이 될 수 있다는 뜻이다.


이번 조치에는 또 다른 모순도 있다. FT에 따르면 미국 국방부와 다른 정부기관들은 여전히 앤스로픽의 최상위 모델을 사용하고 있는 것으로 전해졌다. 정부가 한편으로는 앤스로픽 모델을 국가안보 위험으로 보고 외국인 접근을 차단하면서도, 다른 한편으로는 자국 기관에서 계속 활용하고 있는 셈이다.

앤스로픽은 AI 안전 위험을 가장 적극적으로 경고해온 기업 중 하나다. 다리오 아모데이 CEO는 프런티어 AI 모델의 위험성을 공개적으로 지적해왔고 회사는 최신 미토스 모델의 통제된 공개 방식을 정부와 논의해왔다.

그럼에도 앤스로픽이 첫 강제 동결 대상이 되면서 업계에서는 정부 조치가 기술적 위험 평가만이 아니라 정치적 갈등의 영향을 받은 것 아니냐는 의구심도 제기된다. 앤스로픽은 AI 규제, 감시 기술, 치명적 자율무기 활용 문제 등을 놓고 트럼프 행정부와 갈등을 빚어왔다. 국방부는 앤스로픽을 공급망 위험으로 지정했고 양측은 이를 두고 소송 중이다.

트럼프 행정부는 이번 조치가 국가안보 목적이며 기존 갈등과는 무관하다는 입장이다. 미국 정부 관계자는 해당 취약점이 수정되면 현재의 대치가 풀릴 수 있다고 말했다.


트럼프 행정부는 앞서 프런티어 AI 모델 공개에 대해 상대적으로 덜 개입하는 접근을 시사했다. 이달 초 서명된 행정명령에도 정부가 모델 출시 자체를 막을 수 있는 명시적 장치는 포함되지 않았다.

주요 AI 기업들은 해당 행정명령 이행을 위해 정부와 협력해왔다. 업계는 외국 국적 연구자들이 최첨단 모델 개발에 계속 참여할 수 있도록 하는 방안도 논의하고 있었다. 그러나 이번 앤스로픽 지시는 이런 관행까지 금지하는 효과를 낳았다.

이번 사건은 AI 기업들이 앞으로 모델 공개 전 정부와 어떤 수준까지 협의해야 하는지, 안전 문제가 발견될 경우 정부가 어디까지 개입할 수 있는지에 대한 선례가 될 수 있다.

AI 모델의 성능이 사이버공격과 방어, 군사기술, 정보수집과 맞물리면서 국가안보상 통제 필요성은 커지고 있다. 그러나 정부가 갑작스럽고 선택적으로 수출통제를 적용하면 미국 AI 산업의 신뢰와 글로벌 확산 전략도 흔들릴 수 있다.

앤스로픽 모델 동결은 단순한 개별 기업 규제가 아니라 미국이 강력한 AI 모델을 전략 자산으로 어떻게 관리할지 보여주는 첫 중대 사례가 됐다. 안전 위험을 줄여야 한다는 필요성과 AI 산업의 개방성·예측 가능성을 지켜야 한다는 요구가 정면으로 충돌하고 있다.


김현철 글로벌이코노믹 기자 rock@g-enews.com