앤스로픽 "AI 자가복제 수개월 내 현실화" 경고…사이버보안 업계 논쟁 가열

인공지능(AI) 모델이 스스로를 복제해 인터넷 전체로 확산할 수 있다는 경고가 나오면서 사이버보안 업계에 논쟁이 확산되고 있다.

14일(현지 시각) 로이터 통신에 따르면, 미국 인공지능 기업 앤스로픽은 지난 12일 공개한 보고서에서 매개변수 300억 개 이하의 중형 모델이 통제된 환경에서 자가 복제에 필요한 개별 작업을 수행했다고 밝혔다. 이번 발표는 인공지능 기술 발전이 가져올 사이버 안보 위협을 구체적인 기술 실험으로 입증하려는 시도로 평가받는다.


앤스로픽이 공개한 보고서에 따르면, 매개변수 300억 개 이하의 중형 인공지능 모델은 단순화된 시험용 네트워크 환경에서 자가 복제에 필요한 개별 작업 상당수를 수행했다.

다만 전체 복제 과정을 처음부터 끝까지 안정적으로 완수하는 데는 기술적 한계를 나타냈다.
이번 실험은 인터넷에 연결된 저가 기기들의 연산 자원을 이어 붙여 인공지능이 스스로를 실행하는 방식을 검증한 것이다.

소형 모델이 현재의 개선 속도를 유지할 경우 2026년 말까지 자율 복제에 필요한 능력 수준에 도달할 수 있다는 전망도 보고서에 담겼다.

앤스로픽의 다리오 아모데이 최고경영자(CEO)는 지난달 1년 이내 또는 그보다 이른 시점에 인공지능이 지속형 봇넷을 구축해 인터넷 전체를 점유할 수 있다고 지적한 바 있다.

이번 보고서는 이러한 위험 시나리오를 기술적 실험으로 재확인한 결과로 평가된다.

보고서는 분산된 방식으로 확산하는 인공지능을 중앙에서 일괄 차단할 단일 지점이 없어 가동 중단이 까다롭다고 경고했다.

미국 콜로라도대 덴버캠퍼스 컴퓨터공학과의 리정슝 조교수는 통제된 환경에서의 실험임에도 인공지능이 장치를 스스로 점유하며 확산하는 웜(worm) 형태의 프로그램으로 발전할 수 있다고 평가했다.

반면 실제 위험이 과장되었다는 반론도 거세다. 영국 국가사이버보안센터 전 소장 시어런 마틴은 저렴한 텔레비전에서 소형 모델을 실행했다는 사실만으로 보안 위기라고 볼 수 없다며 제조사의 과장이 섞여 있다고 지적했다.

조지타운대 안보·신흥기술센터의 제시카 지 선임연구원 역시 최근 독자적인 인공지능 활동 관련 보고가 이어지는 만큼 가능성을 검토할 필요는 있지만 실제로 발생할 확률은 아직 확정할 수 없다고 선을 그었다.


인공지능 모델의 자가 복제 가능성 제기는 글로벌 사이버보안 생태계와 클라우드 인프라 방어 체계 전반에 구조적 변화를 요구하고 있다.

분산된 저가 기기를 활용한 확산 기술이 고도화될 경우 기업 보안 시스템과 데이터센터가 대규모 분산 봇넷의 공격 표적이 될 수 있기 때문이다. 이는 IT 공급망 전반의 위협 탐지와 방어 비용을 증가시키는 원인으로 작용한다.

특히 앤스로픽이 위험 보고서를 꾸준히 발표하며 기술적 통제와 규제의 필요성을 강조하는 행보는 글로벌 인공지능 주도권 확보와 산업 육성에 속도를 내는 미국 정부의 기술 진흥 정책과 상충하며 선제적 안전 통제 장치 마련을 압박하는 모양새다.

앞으로 소형 모델의 연산 효율화 테스트가 계속되는 가운데 인공지능 개발사와 각국 규제기관이 분산 연산의 위험성을 평가하는 방식과 제도적 통제선 설정 범위를 둘러싸고 논의를 본격화할 전망이다.


심완섭 글로벌이코노믹 기자 ciberwld@g-enews.com