앤스로픽, 전방위 클로드 악용 사례 공개...기업 자율 규제 한계 드러내

앤스로픽의 생성형 인공지능(AI) 모델 '클로드'가 중국 이란 말리 연계 세력에 의해 대만 방공망 타격 시뮬레이션과 예멘 탄도미사일 개발, 국가 단위 정보 감시망 구축에 악용된 사실이 확인됐다. 앤스로픽은 무기 개발·사이버 공격·대규모 감시·허위 정보 유포 등 국가 안보·사회 위해를 가하는 중대 위험 행위를 엄격히 금지한다.

로이터통신은 12일(현지시각) 앤스로픽이 발표한 위협 정보 보고서를 인용해 이같이 보도했다.

이번 보고서는 자체 위협 탐지 팀이 작성한 것으로 사이버 작전, 영향 작전, 감시, 사기·부정, 생물학적 악용, 재래식 무기 개발, 모델 증류 등 7개 분야의 악용 시도를 다뤘다.


중국 기반 행위자는 클로드를 사용해 전자전과 방공망 제압 소프트웨어를 개발했다. 시뮬레이션 설정에 조기경보 레이더와 지휘 벙커 등 대만 내 목표물 12개를 포함했다.
해당 계정 정보는 인민해방군 군사과학원 등 중국 국가 연구 기관과 연결됐다. 엔스로픽은 이를 확인하고 관련 계정을 차단했다.

또 다른 중국 행위자는 어뢰 방어 체계 명세서와 사격 통제 소프트웨어를 작성했다. 이들은 200쪽이 넘는 제안서를 만들었다. 미 해군 기술과 비교 분석을 거쳐 제안서를 보강했다.

중국 국방 행위자는 고출력 마이크로웨이브 무기를 조사했다. 부품과 공급업체를 파악해 공급망을 추적했다. 기밀 브리핑 초안 작성에도 AI를 동원했다.


예멘 북부 위협 행위자들은 유도 로켓과 탄도미사일 개발에 클로드를 사용했다. 이들은 사거리 2000km 이상 탄도미사일 소프트웨어를 작성했다. 시험 발사 실패 후 원인 분석에도 이용했다.
러시아 자유계약 행위자들은 공격 드론 군집용 소프트웨어를 만들었다. 드론 간 협조와 목표물 선택 기능을 포함했다.

러시아 조달 담당자는 유럽산 이중 용도 물품 경로를 검색했다. 항공용 산소 시스템 등 장비 가격은 개당 10만 유로(약 1억 4700만 원)에 이른다.


중국 후난성 창사(Changsha) 기반 해킹 그룹은 50개 조직을 대상으로 사이버 공작을 펼쳤다.

대학생 2명이 포함된 이들은 클로드(Claude)의 자동화 워크플로를 활용해 네트워크 장비의 미발견 제로 데이(Zero-day) 취약점을 찾아 침투를 수행했다.

이란 연계 운영자는 미 해군 전력 표적 권고안을 작성했다. 미군 명단과 상업 위성 이미지 스크립트를 수집했다. 이에 따라 이란 관련 계정 16개가 차단됐다.

말리 국가안보국은 국내 감시 플랫폼 구축에 클로드를 썼다. 이 시스템은 2500만 개 SIM 카드 데이터를 감시하는 기능을 하는 것으로 확인됐다.

생물무기 개발 지원 시도 계정 5개도 적발됐다. 고병원성 조류인플루엔자와 천연두 관련 연구가 포함됐다. 악용 세력은 가상사설망으로 거점 제한을 우회했다.


앤스로픽은 무기 개발·사이버 공격·대규모 감시·허위 정보 유포 등 국가 안보·사회 위해를 가하는 중대 위험 행위를 엄격히 금지한다.

회사는 이러한 규정을 위반하거나 제재 대상국이 우회 접속하여 AI를 오남용할 경우, 모니터링·안전 가이드라인에 따라 계정을 즉시 정지·차단 초지를 취한다.

사이버보안 전문가들은 앤스로픽의 차단 사례 보다는 불순 세력들이 전방위로 AI를 악용하고 있어 서비스 기업의 AI 안전장치가 악용 시도를 모두 막지 못한다는 측면에 주목한다.

로이터·블룸버그 그리고 미국 전략국제문제연구소(CSIS)·사이버안보·인프라보안국(CISA) 등 주요 외신과 전문기관들은 기업의 개별적 대응을 넘어 정부 차원의 사전 검증 법제화와 국제원자력기구(IAEA) 모델과 같은 '글로벌 공동 통제 시스템' 구축이 필수하다는 분석을 내놓고 있다.


심완섭 글로벌이코노믹 기자 ciberwld@g-enews.com