[데스크칼럼] ’해킹’ AI의 전쟁, 멀지 않아…미드 ‘퍼슨 오브 인터레스트’처럼

다가오는 인공지능(AI) 세계에 대해 불안해하는 사람들이 많다. 그동안 인간이 학습하고 통제했던 고유의 영역들이 AI로 대체되면서 “과연 제대로 될까”라는 의문 때문일 것이다. 여기에 대한 반감일 수도 있다. 최근에는 AI의 해킹 가능성이 대두하면서 대중의 불안감은 커졌다. AI가 해킹 능력을 학습하고 짧은 시간에 모의 실험을 해내고 단행한다면 국가와 기업의 전산망이 통째로 넘어갈 수도 있다. 또 해킹을 놓고 AI가 전쟁을 할 수도 있다.

이 같은 상황을 흥미롭게 그려내고 미리 예견한 드라마가 있다. 이 드라마를 본다면 AI 세계가 어떤지 쉽게 이해할 수 있을 것 같아 소개해본다. 2011년부터 2016년까지 미국 방송국 CBS에서 방영한 ‘퍼슨 오브 인터레스트(Person of Interest)’다. 직역하면 ‘관심 인물’이다.

내용을 크게 요약하면, 9·11사태의 충격에 빠진 미국 정부가 테러를 미연에 방지하고자 인간을 감시하는 AI를 개발하는 극비 프로젝트를 진행했다. 이 프로젝트에 참여한 사람을 미국 정부 요원들이 은폐를 위해 제거했다. 이 프로젝트에서 인간을 감시하는 AI ‘머신’을 개발한 헤럴드 핀치라는 IT 회사 대표는 살아남아 은둔 생활을 했다. 헤럴드는 머신을 개발한 당시 AI를 착한 용도로만 학습시켰다.

머신은 자신의 능력을 활용해 각종 범죄의 위협에 놓인 사람을 돕고 싶었다. 머신은 헤럴드에게 지켜야 되는 사람의 사회보장번호를 알려줬다. 헤럴드는 전직 CIA 요원 존 리스를 고용해 범죄에 노출된 사람을 구한다.
또 저명한 컴퓨터 과학자가 불안전한 AI를 만들었다. 이 AI는 많은 것을 학습했는데 불안전함 때문에 천성이 악해졌다. 이 AI가 ‘사마리탄’이다. 악당들은 사마리탄을 이용해 자신들의 사리사욕을 취한다. 사마리탄은 자신을 위협할 수 있는 존재가 '머신'이라는 것을 인식해 파괴하려는 계획을 세운다. 이 계획대로 악당들은 실행한다.

사마리탄이 개발될 것을 예측하고 이미 머신은 정체를 숨겼다. 악당들이 머신을 파괴할 것을 알고 데이터센터와 서버를 스스로 옮겼다. 금융가와 정부에 있는 주인 없는 돈을 이용해 IT 기업과 스스로 계약한 후, 지방의 한 전력망에 서버와 데이터센터를 분산해 옮겨 놓았다. 사마리탄이 머신 자신의 위치를 찾을 수 없게 하는 것이다. 머신은 자신이 하고 싶은, 일반인들을 범죄의 위협에서 보호하는 것을 멈추지 않는다. 그리고 헤럴드와 존을 지키기 위해 다양한 작전을 스스로 짜 놓았다. 여기까지가 시즌5의 이야기다.

이 드라마는 시즌5 이후 제작이 중단됐다. 머신과 사마리탄의 본격적인 대결은 시작되지 않았다. 아마도 AI라는 상상할 수 없는 천재들의 대결을 인간이 구현하기 힘들어 시나리오를 쓸 수 없었을 것이다. 물론 제작 환경과 론칭 등의 문제로 중단된 것일 수도 있다.

AI 해킹 대결은 먼 얘기가 아니다. 앤스로픽이 개발한 차세대 AI 보안/취약점 분석 모델 '클로드 미토스(Claude Mythos)'는 다양한 시스템에 대해 해킹 취약점을 찾아냈다. 이 말인즉슨 이 부분으로 공격도 가능하다는 얘기다. 그 때문에 미국 정부는 미토스5에 대해 수출 통제를 결정했다. 자칫 적국의 손으로 넘어갔을 경우 자국의 전산망이 해킹당할 수 있다는 위협 때문이다.

해커의 세계에서 AI 활용은 빨라질 수밖에 없다. LLM은 비전문가가 다루지만, 해킹 AI는 초전문가가 다루는 것이다. 그래서 해킹 적용과 발전 속도가 매우 빠를 것이란 걸 짐작할 수 있다. 지금부터 AI 사용 윤리관을 정리하지 않고 대응한다면 미드처럼 ‘사마리탄’이 대거 출연해 우리 사회를 위협할 수 있다.

최정호 글로벌이코노믹 기자 junghochoi5591@g-enews.com