미 항소법원, 앤스로픽 군사 AI 배제 유지…"국방부 판단 합리적“

미국 워싱턴 D.C. 연방 항소법원이 국방부의 앤스로픽 군사 계약 배제 조치를 2대 1 판결로 지지하며 미국 행정부의 손을 들어주었다.

로이터통신은 26일(현지시각) 이번 판결로 인공지능(AI) 앤스로픽이 제기한 '국가안보 공급망 위험 요소 지정' 효력 정지 가처분 항소심에서 국방부가 승리했다고 전했다. 민간 기술기업이 설정한 AI 안전 윤리 기준보다 군사 작전의 연속성을 우선시해야 한다는 사법부의 판단이 나옴에 따라, 국방 분야 AI 납품 시장의 규격 기준이 분수령을 맞게 됐다.


이번 사태는 앤스로픽이 미 국방부와의 계약 협상에서 기술의 사용 제한 원칙을 굽히지 않으면서 벌어졌다. 앤스로픽은 자사의 주력 AI 모델 '클로드'가 인간의 개입 없는 자율 무기 체계나 광범위한 민간 감시 등에 투입되는 것을 금지하는 안전 제한(가드레일)을 기본 원칙으로 고수해 왔다. 반면 미 국방부는 군사 작전의 모든 합법적 용도에 제약 없이 기술을 활용할 수 있도록 모델에 걸린 가드레일을 해제할 것을 요구했다.

양측의 수개월에 걸친 협상은 결국 결렬됐고 피트 헤그세스 국방장관은 앤스로픽이 군 지휘 체계에 민간의 이념의 잣대를 들이대며 국가 안보를 위태롭게 만든다고 강하게 비판했다. 이어 국방부는 앤스로픽을 '국가안보 공급망 위험 요소'로 전격 지정했다. 통상 적대국 스파이 기업을 제재할 때 쓰는 이 조치 탓에 앤스로픽의 모델은 미 군사 시스 도입이 차단됐고 군수업체들과의 거래도 가로막혔다. 이에 맞서 앤스로픽은 정부가 부당한 보복 조치를 단행했다며 법원에 효력 정지 소송을 냈다.

항소법원 재판 과정에서 양측은 첨예하게 맞섰다. 앤스로픽은 현재의 AI 기술이 자율 살상 무기에 안전하게 쓰일 만큼 검증되지 않았으며 정부가 회사의 윤리적 소신에 보복을 가하고 있다고 주장했다. 국방부는 민간 기업이 자체 설계한 소프트웨어 제약 때문에 긴급한 전장 상황에서 시스템이 멈춘다면 치명의 작전 실패를 낳는다고 반박했다.

항소법원 다수의견을 집필한 그레고리 카차스 판사는 판결문에서 "국방장관은 지나치게 제한된 AI 모델이 예기치 않게 작동을 멈춰 중요한 군사 작전이 실패할 수 있다는 매우 심각한 가능성을 제기했다"며 국방부의 판단을 합리적이라고 인정했다. 정부가 AI 윤리 견해에 대해 불법으로 보복했다는 앤스로픽의 주장 역시 기각됐다.

앤스로픽은 판결 직후 성명을 내고 "법원의 이번 결정에 정중히 이의를 제기한다"면서 "항소법원 전체 재판부가 다시 사건을 심리하는 '전원합의체 재심리(en banc)' 청구를 포함해 상급심 대응 방안을 검토하고 있다"고 밝혔다.

앤스로픽은 이번 군사 계약 배제로 수십억 달러의 사업 기회를 잃었으며, 추진 중인 기업공개(IPO)를 앞두고 대외 신인도에 큰 타격을 입었다고 호소했다.

이번 판결은 실리콘밸리 빅테크 기업들이 군사 시장에 진출할 때 지켜온 'AI 안전 가이드라인'을 크게 흔들 것으로 전망된다. 미 국방부가 민간 AI 모델의 제한 조치를 '공급망 위험'으로 공식 배제할 수 있는 법적 명분을 확보함에 따라, 정부 수주를 노리는 다른 AI 기업들은 자율 무기나 군사 활용에 대한 안전장치를 완화하는 방향으로 계약 조건을 선회할 가능성이 커졌다.

이에 따라 주요 AI 기술 기업들의 셈법도 빨라질 것으로 관측된다. 앤스로픽이 엄격한 가드레일을 고수하다 국방부 거대 계약에서 배제된 틈을 타, 경쟁 빅테크들이 군사 작전 요구에 맞춘 유연한 모델 공급 조건을 제시하며 방산 AI 시장 공략에 나설 수 있다는 분석이 업계 안팎에서 나온다.

다만 사법 공방의 불씨는 완전히 꺼지지 않았다. 샌프란시스코 연방 지방법원에서는 지난달 정부의 별도 거래 금지 조치가 위법하다는 가처분 판결이 나온 바 있어, 이번 워싱턴 항소법원 판결과의 충돌로 인해 최종 판단은 연방대법원까지 이어질 수 있다. 자율 무기를 둘러싼 민간 AI 윤리와 군사적 실용주의 간의 경계선 설정은 사법부의 최종 판단과 빅테크들의 사업 전략 재편을 통해 판가름 날 전망이다.


최삼열 글로벌이코노믹 기자 csyis@naver.com