앤스로픽, 클로드 ‘생물무기 악용 우려’ 5건 차단

인공지능(AI) 기업 앤스로픽이 올해 자사 AI 모델 클로드를 생물무기 개발에 활용할 가능성이 있는 연구에 이용하려 한 사례 5건을 적발해 차단했다고 밝혔다.

일부 이용자는 안전장치를 우회하거나 연구 목적을 숨기려 했으며 앤스로픽이 서비스 제공을 금지한 국가의 사용자도 포함됐다.

다만 앤스로픽은 해당 연구자들이 실제로 위해를 가할 의도가 있었는지는 확인할 수 없다고 강조했다. 생물무기 제조에 쓰일 수 있는 정보가 백신 개발 같은 정상적인 연구에도 활용될 수 있기 때문이다.

앤스로픽이 자사 모델을 악의적으로 이용하려 한 사례에 관한 보고서를 공개하면서 잠재적인 생물학적 악용 사례 5건을 제시했다고 파이낸셜타임스(FT)가 11일(현지시각) 보도했다.
앤스로픽은 일부 이용자들이 안전장치를 “우회”하고 연구 목적을 “은폐”하려는 시도를 했다고 밝혔다.

사례 가운데 일부는 앤스로픽이 자사 모델 사용을 허용하지 않는 국가의 이용자와 관련돼 있었다. 서비스 금지 국가에는 러시아, 중국, 이란 등이 포함돼 있다.

◇조류독감 실험 수주간 계획…약한 모델로 제한

앤스로픽이 공개한 사례 가운데 하나는 서비스가 지원되지 않는 지역의 한 연구자가 클로드를 이용해 조류 인플루엔자 관련 실험을 수주 동안 계획한 경우다.

앤스로픽의 안전 필터는 해당 연구자가 가장 성능이 낮은 모델만 이용할 수 있도록 제한했다.
앤스로픽은 문제의 계정들을 차단했지만 연구기관 이름이나 사건이 발생한 국가를 공개하지 않았다.

또 공개된 연구자들이 생물무기를 실제로 만들려 했다고 단정하지 않았다.

앤스로픽은 생물무기를 만드는 데 활용할 수 있는 지식이 백신을 개발하는 데에도 필요할 수 있다고 설명했다.

앤스로픽은 “이런 사례를 공유함으로써 새롭게 나타나는 생물학적 위험과 이를 어떻게 막을지를 놓고 AI 업계와 각국 정부 사이에서 논의가 시작되기를 바란다”고 밝혔다.

AI 성능이 빠르게 높아지면서 생물학 분야에서 고성능 AI 사용을 규제하고 안전하게 관리해야 한다는 인식도 확산하고 있다.

FT는 AI 기업 경영진과 생물안보 연구자들 사이에서 테러단체나 국가기관, 개인 공격자가 AI를 이용해 생물무기를 설계하거나 바이러스를 만들고 기존 병원체를 악용할 가능성에 대한 우려가 커지고 있다고 전했다.

다만 AI가 이론적으로 생물무기를 설계하더라도 실제 제조에는 기술적 능력과 시설, 자원 등이 필요해 현실적인 장벽은 여전히 존재한다.

◇AI 안전 논란 확산…사이버 악용 사례도 공개

이번 보고서는 앤스로픽 내부에서 AI 안전을 둘러싼 논란이 커지는 상황에서 나왔다.

이번 주 앤스로픽 연구원인 제이컵 콕슨은 기업들이 인간이 통제하기 어려운 자기개선형 AI 개발 경쟁에 나서고 있다며 회사를 떠났다.

고성능 모델 등장 이후 AI가 사이버공격이나 생물학적 위해에 악용될 수 있다는 우려도 커지고 있다.

앤스로픽은 이번 보고서에서 생물학 분야뿐 아니라 다른 형태의 기술 악용 사례도 공개했다.

여기에는 이용자들을 속이기 위해 만들어진 가짜 데이팅 애플리케이션 네트워크와 반체제 인사를 식별하고 감시하기 위해 구축된 시스템 등이 포함됐다.

◇中 연구소 7곳, 모델 복제 시도 주장

앤스로픽은 중국에 기반을 둔 연구소 7곳이 자사의 AI 기술을 복제하려 했다는 주장도 이번 보고서에 포함했다.

여기에는 문샷AI와 딥시크도 포함됐다.

앤스로픽에 따르면 이들 연구소는 고성능 모델의 출력 결과를 활용해 다른 모델의 성능을 끌어올리는 ‘증류’ 기법을 이용했다.

앤스로픽은 미국 첨단 AI 모델의 능력을 확보하기 위해 자사의 방어장치를 우회하려는 방법이 점점 정교해지고 있다고 주장했다.

AI 모델의 성능이 과학 연구를 지원할 정도로 높아지면서 같은 능력이 생물학적 위해나 사이버공격에 이용되는 것을 어떻게 막을지가 AI 업계와 각국 정부의 새로운 과제로 떠오르고 있다.


김현철 글로벌이코노믹 기자 rock@g-enews.com