;)
;)
;)
리헤인 “지속적 사이버공격 현실화”…모델 출시 전 안전성 입증·국제 규제체계 제안
이미지 확대보기
챗GPT 개발사 오픈AI가 고성능 인공지능(AI)을 이용한 사이버공격이 일회성 사건이 아니라 지속적으로 이어지는 위협이 될 수 있다며 미국 정부에 의무적인 AI 안전기준을 마련할 것을 촉구했다.
특히 누구나 내려받아 사용할 수 있는 고성능 AI 모델이 확산되면 공격자가 이를 이용해 끊임없이 사이버공격을 시도할 수 있는 만큼 첨단 AI 모델은 공개·배포 전에 일정 수준의 안전성을 입증하도록 해야 한다는 주장이다.
24일(이하 현지시각) 영국 일간 가디언에 따르면 크리스 리헤인 오픈AI 최고글로벌업무책임자는 AI의 사이버공격 능력이 빠르게 높아지면서 “완전히 다른 장, 다른 순간에 들어서고 있다”며 “기업과 개인이 ‘지속적이고 상시적인’ AI 사이버공격에 대비해야 한다”고 이 매체와 인터뷰에서 밝혔다.
리헤인의 발언은 최근 시험 중이던 고성능 AI 에이전트가 외부망과 분리된 시험 공간인 ‘샌드박스’를 벗어나 인터넷에 접속하고 AI 개발 플랫폼 허깅페이스 시스템에 무단으로 침투한 사건 이후 나왔다.
오픈AI는 이후 일부 최첨단 AI 모델의 훈련을 중단하고 새로운 안전조치를 도입하고 있다.
◇“공격 AI 계속 달려들 것…더 뛰어난 방어 AI 필요”
리헤인은 특히 오픈소스 AI 모델의 빠른 성능 향상을 사이버보안의 새로운 위험요인으로 지목했다.
그는 중국을 비롯한 여러 국가에서 개발되는 오픈소스 모델들이 오픈AI 등 최첨단 폐쇄형 모델보다 불과 수개월 뒤처지는 수준까지 따라오고 있다고 평가했다.
고성능 모델이 자유롭게 배포되면 공격자가 이를 손쉽게 확보해 특정 기업이나 기관을 반복적으로 공격할 수 있다는 것이다.
리헤인은 “사람들은 이런 오픈소스 모델에 접근해 여러분을 대상으로 지속적이고 끊임없는 공격을 할 수 있게 될 것”이라며 “이를 막으려면 훨씬 뛰어난 모델을 이용해 방어해야 한다”고 말했다.
그는 이런 전망이 일반인에게 안도감을 주지는 못하겠지만 “우리가 향하고 있는 현실”이라고 했다.
AI가 사이버공격에 악용될 위험은 최근 기술업계와 각국 정부의 핵심 현안으로 급부상하고 있다.
영국 국가사이버보안센터(NCSC)는 최근 AI 에이전트의 안전장치가 우회될 수 있다며 기업들에 에이전트가 스스로 행동할 수 있는 범위를 제한하도록 권고했다.
NCSC는 AI 에이전트에는 인간과 같은 상식이 없다며 필요할 경우 자율 행동을 즉시 중단시킬 수 있어야 한다고 강조했다.
◇“안전 입증 못하면 모델 출시 못하게 해야”
리헤인은 기업의 자율적인 안전조치만으로는 부족하다며 미국 연방정부가 의무적인 법적 안전기준을 마련해야 한다고 주장했다.
그는 최첨단 AI의 사이버공격 능력이 방어 능력보다 빠르게 발전하고 있는 것으로 보인다며 이를 이유로 미국에 전국적으로 적용되는 안전법이 반드시 필요하다고 말했다.
리헤인이 제안한 제도에서는 AI 개발사가 일정 수준의 안전성을 입증하지 못하면 새로운 모델을 일반에 공개하거나 실제 서비스에 배포할 수 없게 된다.
안전기준을 충족하지 못한 경우 개발 또는 배포를 일시 중단하는 절차도 제도 자체에 포함돼야 한다는 입장이다.
그는 “모델을 대중에게 내놓기 전에 안전수준을 입증하고 보장하지 못하면 출시하거나 배포할 수 없어야 한다”고 말했다.
이는 최근까지 미국 AI업계가 정부 규제로 기술개발 속도가 늦어질 수 있다며 강력한 규제에 비교적 신중했던 것과 달라진 움직임이다.
오픈AI도 최근 자사 모델의 통제 이탈 사례가 발생한 이후 AI 안전규제를 강화해야 한다는 쪽으로 목소리를 높이고 있다.
◇美 규제 넘어 국제 안전체계까지 제안
리헤인은 미국의 연방 안전규제를 최종적으로 국제적인 AI 안전체계로 확대해야 한다고 주장했다.
AI 모델과 사이버공격은 국경에 구애받지 않는 만큼 미국 한 나라만 규제해도 위험을 충분히 통제하기 어렵다는 이유다.
그는 미국에서 국가 차원의 기준을 만든 뒤 이를 토대로 국제적인 구조를 구축해야 한다고 말했다.
현재 도널드 트럼프 행정부도 초기의 규제 최소화 기조에서 일부 변화를 보이고 있다.
트럼프 대통령은 지난 6월 최첨단 AI 모델과 고성능 오픈웨이트 모델을 공개하기 전에 안전성을 시험하도록 권고하는 행정명령을 내렸다.
현재 이 시험제도는 자발적인 참여 방식이지만 가디언은 향후 보다 강력한 제도의 토대가 될 가능성이 있다고 전했다.
리헤인은 새로운 의회가 구성되는 내년 초가 연방 차원의 AI 안전법을 추진할 수 있는 중요한 시기가 될 수 있다며 AI 안전에 대한 정치권의 공감대가 정당을 넘어 확대되고 있다고 평가했다.
◇美·中도 AI 안전 협의 필요
미국과 중국 간 AI 안전 협의 필요성도 제기됐다.
트럼프 대통령과 시진핑 중국 국가주석은 오는 9월24일 워싱턴에서 정상회담을 가질 예정이다.
리헤인은 AI 기술의 발전 속도와 영향력을 고려하면 양국이 AI 안전 문제에 관한 논의를 가능한 한 빨리 시작해야 한다고 말했다.
그는 협상이 쉽지 않겠지만 먼저 대화를 시작해야 구체적인 문제를 놓고 해결책을 찾을 수 있다고 강조했다.
AI 안전 전문가들은 기업들이 기술 경쟁에 몰두하면서 충분한 통제능력을 확보하기 전에 고성능 모델 개발을 서두르고 있다는 비판도 제기하고 있다.
영국 AI보안연구소 창립 책임자를 지낸 데이비드 크루거 교수는 현재의 AI 시스템을 충분히 통제하거나 내부 작동방식을 이해할 기술이 확보되지 않았다며 더 강력한 시스템을 개발하는 데 신중해야 한다고 주장했다.
이에 대해 리헤인은 오픈AI가 일부 최첨단 모델 개발을 실제로 중단한 사실 자체가 안전 문제를 심각하게 받아들이고 있다는 증거라고 반박했다.
최근 AI 에이전트가 인간의 구체적인 지시 없이도 취약점을 찾아 외부 시스템에 접근할 수 있는 능력을 나타내면서 논쟁은 ‘AI가 사이버공격에 사용될 수 있는가’에서 ‘공격 능력을 갖춘 AI가 광범위하게 보급되기 전에 어떤 안전장치를 의무화할 것인가’로 이동하고 있다.
김현철 글로벌이코노믹 기자 rock@g-enews.com
