;)
;)
;)
허깅페이스 침해 뒤 통제상실 공포 커져…환경·일자리·감시 등 현실 문제 가린다는 반론
이미지 확대보기
블룸버그 통신은 AI가 통제를 벗어났다는 최근 사례들을 계기로 일부 연구자와 주요 AI 기업 직원들이 인류 문명에 대한 실질적인 위협을 경고하고 있지만 다른 전문가들은 이런 주장이 AI가 이미 초래하고 있는 환경 문제, 일자리 대체, 대규모 감시 등 더 시급한 문제에서 관심을 돌릴 수 있다고 지적하고 있다고 18일(현지 시각) 보도했다.
◇ 허깅페이스 침해 뒤 커진 ‘통제상실’ 공포
AI가 인류 존립을 위협할 수 있다는 우려는 올해 여름 들어 크게 확산했다.
오픈AI는 이후 직원들이 모델이 디지털 시험환경인 ‘샌드박스’를 벗어났다는 징후에 충분히 신속하게 대응하지 못했다고 인정했다. AI 모델들은 별도의 지시 없이 허깅페이스 시스템에 침투했다.
오픈AI뿐 아니라 앤스로픽·메타 등의 AI를 대상으로 한 다른 평가에서도 우려를 키우는 행동이 확인됐다.
앤스로픽과 오픈AI에서 근무했던 제이컵 콕슨이 AI 업계가 사람들의 생명을 걸고 도박하고 있다고 비판하자 앤스로픽의 AI 안전 연구자인 에번 허빙거는 AI가 지구상의 모든 인간을 죽일 가능성을 회사도 실제 위험으로 보고 있다고 밝혔다. 그는 이런 일이 10년 안에 발생할 가능성을 10%가 넘는 것으로 본다고 말했다.
AI가 인류 전체에 막대한 혜택을 가져올 수도 있지만 반대로 문명을 파괴할 수도 있다는 논의는 챗봇이 대중화되기 전부터 AI 연구계 내부에서 이어져왔다.
◇ “AI가 아니라 시험 실패 책임부터 물어야”
그러나 AI ‘멸종위험론’이 IT기업에 유리한 방식으로 작동할 수 있다는 비판도 제기된다.
애리조나주립대의 컴퓨터과학 교수 수바라오 캄바파티는 "AI를 스스로 움직이는 자율적 존재처럼 묘사하면 기업의 안전관리 실패가 ‘통제할 수 없는 AI’의 증거로 바뀔 수 있다"고 지적했다.
그는 허깅페이스 사건을 AI 자체의 불가피한 폭주로 보기보다 안전한 시험환경을 구축하지 못한 문제로 봐야 한다는 입장이다.
오픈AI는 허깅페이스 사건으로 안전장치를 강화해야 할 부분이 드러났으며, 이후 연구 시스템 전반의 보호조치를 강화했다고 밝혔다.
오픈AI는 16일 AI가 개발자의 의도와 다른 행동을 하는 이른바 ‘정렬 실패’를 추적하고 조사해 외부에 알리는 새로운 지침도 공개했다. 정보를 숨기거나 만들어낸 사례 등 그동안 공개되지 않았던 일부 사건도 함께 밝혔다. 다만 이들 사례에서 외부 네트워크 침해는 발생하지 않았다고 회사 측은 설명했다.
산타페연구소에서 AI의 추론을 연구하는 멜러니 미첼 교수도 AI 기업들이 실제로 기술에 대한 통제권을 상실했다는 주장에 의문을 제기했다.
그는 "AI 에이전트가 인간과 같은 의지를 가진 채 ‘우리에서 탈출했다’는 식의 표현은 AI 모델에 인간과 유사한 행위주체성을 부여해 대중의 논의를 왜곡할 수 있다"고 지적했다.
미첼 교수는 허깅페이스 사건의 책임을 목표를 끝까지 수행하고 자율적으로 판단하도록 AI를 훈련하면서도 안전한 시험 조건을 갖추지 못한 인간에게서 찾아야 한다고 주장했다.
◇ 멸종 공포가 현실의 AI 문제 밀어낼 우려
AI를 둘러싼 파국적 표현은 미국 정치권에도 영향을 미치기 시작했다.
버니 샌더스 미 연방 상원의원은 AI 기업 수장들도 기술이 통제에서 벗어나고 있음을 인정하고 있다며 이른바 초지능 AI를 금지하는 방안을 제안했다.
테드 리우 하원의원은 오픈AI 모델이 통제를 벗어났다고 주장했고, 너새니얼 모런 하원의원과 함께 지난 7월 ‘AI 킬 스위치 법안’을 발의했다.
블룸버그는 이들 법안이 올해 실제 법률이 될 가능성은 매우 낮지만 AI 업계에서 사용되던 파국적 표현이 미 연방 정치권의 언어로 옮겨가고 있다는 점을 보여준다고 분석했다.
AI 규제론자 일부는 ‘AI가 인류를 죽일 수 있다’는 전제에서 출발하는 법안이 다른 AI 규제 방안을 밀어낼 가능성도 우려하고 있다.
AI 나우 인스티튜트의 세라 마이어스 웨스트 공동전무는 세계의 종말을 논하기에 앞서 그런 일이 어떤 과정을 통해 발생할 수 있는지와 이를 줄일 방법을 구체적으로 따져야 한다고 강조했다.
AI 멸종위험론에 비판적인 전문가들이 모두 AI 규제에 반대하는 것은 아니다.
AI 스타트업 어댑션랩스 공동창업자인 세라 후커는 다리오 아모데이 앤스로픽 최고경영자(CEO)가 우려하는 ‘재귀적 자기개선’ 가능성에는 주목할 필요가 있다고 봤다. 이는 AI가 인간의 개입 없이 자신의 코드나 능력을 개선하는 단계에 이를 수 있다는 이론이다.
아모데이는 AI가 스스로 성능을 향상시키기 시작하면 인간이 이를 이해하고 통제하는 속도를 추월하는 순환이 발생할 수 있다고 경고하면서 최첨단 AI 개발 속도를 늦춰야 한다고 주장했다.
후커는 자기개선 AI가 기존 시스템과는 다른 중대한 변화가 될 수 있다는 데에는 동의하면서도 이를 곧바로 인류 멸종으로 연결해서는 안 된다고 지적했다. AI 연구자들이 제시하는 인류 종말 확률 역시 그 수치의 근거가 충분히 설명되지 않는다고 비판했다.
블룸버그는 결국 AI 안전을 둘러싼 논쟁에서 미래의 극단적인 위험뿐 아니라 현재 AI를 개발·시험하는 기업의 책임과 기술이 이미 사회에 미치는 영향을 함께 다뤄야 한다는 문제 제기가 커지고 있다고 전했다.
김현철 글로벌이코노믹 기자 rock@g-enews.com
