美 의회, ‘군사 AI’ 입법 통제 착수…168명 오폭 부른 킬체인 난타

미 의회가 2027 회계연도 국방수권법(NDAA) 최종 심의를 진행 중인 가운데, 군사 인공지능(AI) 킬체인에 대한 법적 통제 장치 마련도 주요 쟁점 중 하나로 떠올랐다.

군사 전문 매체 디펜스뉴스는 17일(현지시각), 지난 2월 168명이 숨진 이란 초등학교 오폭 참사 조사와 맞물려 AI 표적화 보고 요건을 국방수권법에 반영하라는 의회 요구가 본격화됐다고 전했다. 군사 AI 검증 부실 논란은 연합 작전을 수행하는 동맹국 무기체계의 알고리즘 인증 규격에도 중대한 변화를 부를 수 있다는 관측이 나온다.


미 의회가 회기 내 군사 AI 예산과 제도 전반을 재검토하게 된 배경에는 미 국방부의 공격적인 의사결정 속도 단축 정책과 사후 관리 부실이 자리 잡고 있다. 미 국방부의 2023년 AI 도입 전략은 신속하고 탄력적인 타격 체계 구축을 목표로 삼았고, 2026년 전략은 기술 우선 전투력 구현을 위해 작전 개념 전반을 재설계하는 데 집중했다. 그러나 일선 전장에서는 기계의 추천 속도가 지휘관의 물리적 검증 능력을 압도하는 부작용이 나타날 수 있다는 우려가 커졌다.

특히 국방부 감찰관실이 2026년 5월 발간한 보고서는 의회 제동의 결정적 계기가 됐다. 보고서에 따르면 민간인 피해 완화·대응(CHMR) 계획 담당 전문 인력이 무단 이탈하거나 재배치됐고, 피해 데이터 관리 플랫폼 예산 지원마저 중단됐다. 국방부가 법적 보호 장치를 방치한 채 기계의 속도전만 밀어붙였다는 비판 속에, 하원 톰 랜토스 인권위원회는 긴급 청문회를 열고 군사 AI의 구조적 결함을 공식 기록으로 남겼다.
청문회 증언에 나선 우크라이나 AI 거버넌스 연구원 안나 미시신은 의원들에게 "승인 버튼 하나만으로는 통제력을 입증할 수 없다"고 지적했다. 그녀는 우크라이나 전장에서 AI 도입으로 의사결정 시간이 수 시간에서 수 분으로 줄었으나, 다수의 AI 체계를 동시에 감독하는 운용자가 잘못된 표적 권고를 걸러내는 일은 현실적으로 어려울 수 있다고 증언했다.


의회 입법 압박의 중심에는 지난 2월 28일 벌어진 이란 남부 미나브 초등학교 공습 참사가 있다. 이란 당국은 토마호크 순항미사일 공격으로 12세 미만 어린이 100명 이상을 포함해 최소 168명이 숨졌다고 발표했다. 유엔은 이란 당국 발표를 토대로 민간인 사상 규모를 조사하고 있으며, 조사 주체에 따라 집계 수치에는 차이가 나타나고 있다.

국제앰네스티 위성 분석 결과 피격된 샤자레 타이예베 학교는 혁명수비대 기지 경계에서 91m 거리에 있었다. 해당 학교는 웹사이트와 소셜미디어를 정상 운영하던 민간 시설이었다. 의원들은 미군 AI 체계인 '메이븐 스마트 시스템'이 표적화에 관여했는지 집중 추궁해 왔다. 미군 조사관들은 자체 조사에서 해당 타격이 미군 전력에 의해 이뤄졌을 가능성을 제기했으나, 국방부는 메이븐 체계의 개입 여부를 명확히 밝히지 않은 채 조사를 이어왔다.

군사 윤리 학자인 조셉 차파 전 장교는 머신러닝 통계 체계의 기술상 오류 위험을 경고했다. 그는 AI 알고리즘이 미세한 입력값 변화에도 엉뚱한 결론을 낼 수 있고, 심층 신경망 구조에서는 추천 도출 경로를 사후에 역추적하기 어렵다고 지적했다. 이에 따라 군 당국이 형식적인 승인 버튼을 누른 개인에게만 최종 책임을 떠넘기며 시스템 결함을 방치했다는 비판이 이어졌다.

미 의회는 이번 국방수권법 개정 논의를 통해 군사 작전 내 AI 관여 여부와 민간인 피해 인과관계를 의무 보고하도록 하는 방안을 추진하고 있다. 기계의 판단 과정을 사람이 역추적하기 어려운 블랙박스형 알고리즘의 경우, 무기 획득 단계에서 재검토를 거치거나 알고리즘 감사 로그 보존을 의무화해야 한다는 주장에 무게가 실린다.

이에 따라 차세대 자율·반자율 무기체계를 개발 중인 주요 방산 선진국들 사이에서는 '설명 가능한 인공지능'과 시스템 비상 차단 기능을 선제적으로 반영해야 한다는 목소리가 나온다. 북대서양조약기구(NATO)를 비롯한 주요 안보 협의체 역시 교전 규칙 내 인간 개입 기준을 강화하며, 군사 AI 알고리즘 검증을 국제 무기 거래와 공동 작전의 새로운 기술 요건으로 다루는 분위기다.

한국 국방 당국과 방위산업계 역시 유무인 복합체계(MUM-T)와 AI 표적 식별 기술을 고도화하는 과정에서 동맹국 기준에 부합하는 알고리즘 검증 장치를 마련해야 하는 과제를 안게 됐다. 미군과 연합 작전을 전제로 하는 차세대 전술 지휘·타격 체계일수록 AI 추천 결정을 사후 추적할 수 있는 데이터 로그 보존과 감사 체계 구축이 중요해질 수 있다. 한미 연합 자율 무기체계의 상호운용성을 확보하려면 국제적 논의 흐름에 맞춘 군사 AI 통제 규정 정비가 필요하다는 분석이다.


최삼열 글로벌이코노믹 기자 csyis@naver.com