"인간의 승인은 필요 없다"... 이스라엘, '환각 없는 AI 지휘관' 실전 투입

전쟁의 문법이 인류가 통제할 수 없는 영역으로 넘어가고 있다. 거대 언어 모델(LLM)의 유연함과 전통적인 논리 체계의 정밀함을 결합한 뉴로-심볼릭(Neuro-Symbolic) AI 드론 부대가 실제 전장에 투입되었기 때문이다. 이는 단순한 무인기의 투입이 아니라, 전장에서 실시간으로 변하는 상황을 스스로 분석하고 타격 대상을 스스로 결정하는 기계 지휘관의 등장을 의미한다. 인류는 이제 AI에게 살상 권한을 위임한 뒤 그 결과를 지켜봐야 하는 무력한 관찰자로 전락했다.

이스라엘의 기술 전문 매체 칼칼리스트테크 4월 2일 '뉴로-심볼릭 AI 기반 자율 드론 부대의 실전 운용 분석(Analysis of Neuro-Symbolic AI-based Autonomous Drone Swarm Deployment)'이라는 제하의 아티클에서 전한 바에 의하면, 이스라엘군은 가자 지구와 북부 국경 지대에 인간의 실시간 개입 없이 작전을 수행하는 지능형 드론 스웜을 배치했다. 이들은 통신이 두절된 극한 상황에서도 논리적 판단을 통해 임무를 완수하도록 설계되었다.


그동안 군사 분야에서 생성형 AI 도입을 주저했던 가장 큰 이유는 할루시네이션(환각) 현상 때문이었다. AI가 민간인을 적군으로 오인하거나 잘못된 명령을 내릴 수 있다는 공포였다. 하지만 뉴로-심볼릭 방식은 딥러닝의 패턴 인식 능력 위에 엄격한 군사 논리 체계를 덧씌워 오판의 가능성을 획기적으로 줄였다. AI가 내리는 모든 결정은 군사 규정이라는 필터를 거치며, 이를 통해 환각 없는 냉혹한 타격 시스템이 완성되었다.

뉴로-심볼릭 드론의 가장 무서운 점은 외부와의 연결이 끊겨도 작전이 중단되지 않는다는 것이다. 기존 드론은 인간 조종사와의 링크가 끊기면 무용지물이 되었지만, 자율 AI가 탑재된 드론은 스스로 상황을 재판단하여 목표를 수정한다. 적의 전파 방해(Jamming)가 난무하는 현대전에서 인간의 명령 없이도 끝까지 목표를 추적해 섬멸하는 기계의 집요함은 보이지 않는 공포로 다가온다.


기계가 스스로 살상 대상을 선정하고 타격하는 시스템에서 사고가 발생했을 때, 그 책임은 누구에게 있는가. 개발자인 소프트웨어 엔지니어인가, 아니면 시스템을 가동한 현장 지휘관인가. 뉴로-심볼릭 AI는 결정의 근거를 논리적으로 설명할 수 있다고 주장하지만, 그 논리가 인간의 윤리와 충돌할 때 제어할 수 있는 방법은 사실상 전무하다. 자율 살상 무기의 확산은 전쟁의 도덕적 마지노선을 무너뜨리고 있다.


이스라엘의 이번 드론 투입은 전 세계 방산 시장에 하드웨어가 아닌 지능형 아키텍처 전쟁의 시작을 알리는 신호탄이다. 이제 전차의 장갑이나 미사일의 사거리보다 중요한 것은 무기를 구동하는 AI가 얼마나 독립적인 판단력을 가졌느냐에 달려 있다. 인간의 승인이라는 마지막 안전장치가 제거된 전장에서, 인류는 스스로 만든 피조물의 자비에 생사를 맡겨야 하는 비정한 현실에 직면했다.

이교관 글로벌이코노믹 기자 haedang@g-enews.com