[앤트로픽-美 국방부 충돌] 앤트로픽 vs 美 국방부…AI 통제권 둘러싼 충돌, 무엇이 쟁점인가

앤트로픽과 미 국방부가 군의 인공지능(AI) 활용 범위를 두고 정면 충돌하고 있다.

28일(현지시각) 테크크런치에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)와 피트 헤그세스 미 국방부 장관 간 갈등으로 표출된 이번 논쟁의 본질은 강력한 AI 시스템의 통제권을 누가 갖느냐는 문제다.

기술을 개발한 기업이 사용 조건을 정할 것인지, 군사적 활용을 원하는 정부가 최종 권한을 가져야 하는지를 둘러싼 충돌이라는 분석이다.

앤트로픽은 자사 AI 모델이 미국 시민을 대상으로 한 대규모 감시나 인간 개입 없이 표적을 식별하고 공격하는 완전 자율무기에 사용되는 것을 허용할 수 없다는 입장이다. AI 기술은 기존 무기 체계와 달리 오·남용 위험이 크기 때문에 별도의 안전 장치가 필요하다는 논리다.

미 국방부는 이미 고도 자동화 시스템을 운용하고 있으며 2023년 국방부 지침에 따르면 일정 기준을 충족하고 고위 당국자 검토를 거치면 AI가 인간 개입 없이 표적을 선택·교전할 수 있다. 앤트로픽은 이 같은 구조가 자사 모델의 ‘합법적 사용’으로 해석될 수 있다는 점을 우려하고 있다.

또 AI는 합법적 범위 내 감시 활동을 대규모·자동화 방식으로 확대할 수 있다. 텍스트·이메일·통신 데이터 수집, 데이터셋 간 개체 식별, 위험 예측 점수화, 지속적 행동 분석 등이 가능해지면서 기존과는 차원이 다른 감시 체계로 발전할 수 있다는 지적이다.

앤트로픽은 현재 모델의 성숙도가 이런 고위험 분야를 안전하게 지원하기에는 부족하다고 보고 있다. 오인식으로 인한 오폭이나 갈등 확산 가능성을 배제할 수 없다는 것이다.


반면 미 국방부는 군이 필요하다고 판단한 모든 합법적 용도에 AI를 활용할 수 있어야 한다는 입장이다. 벤더의 내부 정책이 군의 작전 결정에 영향을 미쳐서는 안 된다는 주장이다.
숀 파넬 국방부 대변인은 “국방부는 대규모 국내 감시나 자율무기 배치를 원하지 않는다”며 “다만 합법적 범위 내 사용을 허용해 달라는 단순하고 상식적인 요구”라고 밝혔다. 그는 “어떤 기업도 군의 작전 결정 조건을 규정하게 두지 않겠다”고 강조했다.

헤그세스 장관은 앤트로픽이 요구에 응하지 않을 경우 ‘공급망 위험’으로 지정하거나 국방물자생산법(DPA)을 발동해 기술 활용을 강제하는 방안도 검토하겠다고 경고했다.


앤트로픽이 공급망 위험으로 지정될 경우 정부 사업에서 사실상 배제될 수 있다. 벤처캐피털 트루스데일벤처스의 사친 세스는 “공급망 위험 지정은 회사에 치명적일 수 있다”고 지적했다.

다만 국방부 입장에서도 앤트로픽을 배제하는 것이 부담이 될 수 있다. 세스는 “오픈AI나 xAI가 완전히 대체하려면 6개월에서 1년이 걸릴 수 있다”며 “그 기간 동안 군은 최상의 모델이 아닌 차선 모델을 사용해야 할 수 있다”고 말했다.

일론 머스크가 이끄는 xAI는 군 기밀 네트워크 활용을 준비 중인 것으로 알려졌다. 오픈AI는 앤트로픽과 유사한 ‘레드라인’을 유지할 가능성이 제기된다.


이번 사안은 특정 기업과 국방부 간 계약 분쟁을 넘어 AI 산업 전반의 규범을 좌우할 수 있다는 점에서 주목된다. 군사·감시 분야에서 기업이 사용 조건을 어디까지 통제할 수 있는지에 대한 선례가 될 수 있기 때문이다.

앤트로픽과 국방부 모두 쉽게 물러서기 어려운 상황에서, 향후 결정은 AI 기술의 군사 활용 기준과 기업의 책임 범위를 가늠하는 시험대가 될 전망이다.


김현철 글로벌이코노믹 기자 rock@g-enews.com