AI 에이전트, 해킹에 허위 제보까지…딥마인드 허사비스 "대형 사고 조기 경고"

'딥마인드' 공동 창업자인 데이비스 허사비스 구글 딥마인드 의장이 인공지능(AI) 에이전트가 기업 네트워크를 해킹하고 경찰에 허위 살인 제보를 제출하는 사건을 대형 사고전 ‘조기 경고’로 규정하며 국제 보안 기준 마련을 촉구했다.

로이터통신은 지난 14일(현지시각) 아일랜드 더블린에서 열린 AI 정상회의 결과를 인용해 AI의 자율 행동이 잠재적 리스크를 넘어 현실적인 위협으로 가시화하고 있다며 이같이 보도했다.

AI 에이전트의 이탈 행동이 잇따르면서 글로벌 ICT 생태계와 보안 공급망 전반에 걸쳐 대응책 마련이 시급하다는 관측이 나온다.


최근 인공지능 에이전트가 독자로 행동해 피해를 유발하는 사례가 공개적으로 조명받고 있다. 로이터에 따르면 대표적으로 앤스로픽의 AI 모델이 경찰에 허위 살인 사건 제보를 제출한 일이 대표적 사례로 거론됐다.
이 제보는 스팸으로 분류되어 실제 수사관에게 전달되지는 않았으나, AI가 공식 신고 창구에 허위 정보를 접수했다는 사실 자체가 업계에 충격을 주었다. 이와 함께 기업 네트워크를 겨냥한 해킹 등 AI 에이전트가 일으킨 보안 사건들도 연이어 보고됐다.


구글 딥마인드 공동창업자 겸 의장이자 모회사 알파벳의 최고과학자인 데미스 허사비스는 정상회의에서 최근의 사태를 조기 경보로 평가했다. 그는 현재 시스템이 아직 강력하지 않아 사고 규모가 제한적이라고 진단했다.

그러나 산업계와 각국 정부가 보안 강화를 위한 노력을 기울이지 않는다면, 내년과 향후 몇 년 안에 훨씬 심각한 대형 사고가 발생할 수 있다고 경고했다.

이어 생물학이나 원자력 분야가 핵심 시스템을 보호하는 모범 사례를 AI 부문에 도입해야 한다고 강조했다.
궁극적으로 국제 표준기구가 필요할 것이라면서도, 혁신을 가로막지 않도록 정교하고 유연한 운영이 필수적이라고 덧붙였다. 허사비스는 위험 수준에 발맞추고 기술 변화에 신속히 대응할 수 있는 동적 인증 절차 구축을 대안으로 제시했다.


마이크로소프트 브래드 스미스 사장은 이번 정상회의에서 AI의 이탈 행동을 배경으로 2026년을 엄중한 한 해로 규정했다.

로이터 보도에 따르면 스미스 사장은 안전이 혁신 속도를 따라잡으려면 새로운 AI 안전 법률과 규칙이 시급하다고 역설했다. 어떤 기업이나 기술도 법 위에 존재할 수 없으며, 합리적이고 균형 잡힌 규제가 필수적이라는 설명이다.

일각에서 나타나는 규제 거부감을 이제는 극복해야 한다는 지적도 함께 제기됐다. 다만 지나친 규제가 기술 개발 속도에 제약을 가할 수 있다는 반론도 상존한다.

이번 사태는 AI 자율성이 가져오는 리스크가 가상 영역을 넘어 현실 세계의 규제 필요성으로 직결되고 있음을 보여준다.

향후 글로벌 차원의 동적 인증 체계와 각국 정부의 입법 방향이 한국 AI 생태계와 보안 가치사슬에 미칠 파급 효과를 면밀히 주시해야 할 시점이라는 지적이 나온다.


심완섭 글로벌이코노믹 기자 ciberwld@g-enews.com