해커들 AI 계정·서버 노린다…‘LLM 재킹’ 급증

해커들이 인공지능(AI) 계정과 기업의 클라우드 서버를 탈취해 고가의 대규모 언어모델(LLM)과 컴퓨팅 자원을 무단으로 사용하는 이른바 ‘LLM 재킹(LLM-jacking)’이 빠르게 확산하고 있다.

AI 모델 접근권과 컴퓨팅 능력이 갈취와 스파이 활동, 사이버 공격에 활용되면서 불법 AI 접근권 자체가 사이버 범죄시장의 새로운 상품으로 자리 잡고 있다는 분석이 나온다.

LLM 재킹은 LLM 재킹은 LLM에 접근할 수 있는 계정이나 기업의 클라우드·GPU 등 컴퓨팅 자원을 탈취해 고가의 AI 모델을 무단으로 사용하는 행위를 뜻한다. 공격자는 훔친 로그인 정보로 유료 AI 서비스를 이용하거나 피해 기업 서버에 자체 모델을 설치해 비용을 떠넘긴다. 과거 다른 사람의 컴퓨터 자원을 몰래 이용해 암호화폐를 채굴하던 ‘크립토재킹’과 유사한 방식으로, AI 사용 비용이 높아지면서 계정과 연산자원 자체가 새로운 탈취 대상이 되고 있다.

26일(이하 현지시각) 파이낸셜타임스(FT)에 따르면 구글 위협 인텔리전스 그룹(GTIG)은 올해 들어 도난당한 AI 서비스 로그인 정보 거래와 기업 컴퓨팅 자원을 탈취해 자체 AI 모델을 공짜로 구동하는 LLM 재킹이 크게 증가했다고 최근 밝혔다.
존 헐트퀴스트 GTIG 수석 애널리스트는 “지하 사이버 범죄시장에서 AI 접근권을 둘러싼 경제가 커지고 있다”고 말했다.

◇다크웹서 첨단 AI 모델 최대 97% 할인

GTIG 연구진에 따르면 다크웹 시장에서는 앤스로픽, 구글, 오픈AI 등의 AI 모델 접근권이 정상가격보다 최대 97% 싸게 거래되고 있다.

챗GPT와 클로드의 최상위 유료 서비스는 사용자 한 명당 월 최대 200달러(약 27만원)에 달한다.

해커들은 다른 사람이나 기업에서 훔친 계정과 자격증명을 이용해 이런 비용을 거의 내지 않고 고성능 AI를 사용할 수 있다.
일부 판매자는 구입한 계정이 AI 기업의 보안 감시로 차단되면 추가 비용 없이 새로운 로그인 정보를 제공하는 ‘접속 보장’까지 내걸고 있는 것으로 전해졌다.

헐트퀴스트는 “공격자들이 AI 토큰과 컴퓨팅 자원을 정상 이용자보다 훨씬 싼 가격에 확보하면 동일한 AI 도구를 이용해 방어해야 하는 기업보다 비용 측면에서 유리해질 수 있다”고 지적했다.

◇기업 서버까지 탈취해 AI 모델 무단 가동

계정 탈취를 넘어 기업의 클라우드 서버 자체를 장악하는 공격도 나타나고 있다.

사이버 범죄조직이나 국가 지원 해킹조직이 기업의 클라우드 서버를 침입한 뒤 자체 AI 모델을 설치해 피해 기업의 컴퓨팅 자원으로 모델을 구동하는 방식이다.

과거 해커들이 다른 사람의 컴퓨터나 서버를 장악해 암호화폐 채굴에 이용했던 ‘크립토재킹’과 비슷한 구조다.

GTIG가 파악한 사례 가운데는 과거 미국을 공격한 이력이 있는 중국의 사이버 스파이 조직이 기업 시스템에 자체 AI 모델을 설치한 경우도 포함됐다.

공격자는 서버 이용료와 GPU 비용을 직접 부담하지 않으면서 고성능 모델을 운영할 수 있고 피해 기업은 자신도 모르는 사이 막대한 컴퓨팅 비용을 떠안게 될 수 있다.

구글은 앞서 이달 공개한 AI 위협 보고서에서도 공격자들이 비용 부담을 피하기 위해 개발자 자격증명을 훔치고 유출된 AI 플랫폼 계정을 구매하며 기업 클라우드 인프라를 탈취하는 사례가 증가했다고 밝혔다.

◇“모든 위협 행위자가 AI 사용”

AI 자체도 사이버 공격에 광범위하게 활용되고 있다.

헐트퀴스트는 “현재 사실상 모든 유형의 위협 행위자가 AI를 활용하고 있다”며 “향후 사이버보안 방어에도 AI가 필수적인 요소가 될 것”이라고 내다봤다.

앤스로픽이 최근 발표한 AI 오용 보고서에서도 미국, 영국, 예멘 등 20여개국의 위협 행위자가 클로드를 악성 활동에 사용하려 한 사례가 확인됐다.

AI를 이용하면 공격자는 목표물 조사와 피싱 메시지 작성, 악성코드 개발, 공격 과정에서 발생한 문제 해결 등을 더 빠르고 저렴하게 수행할 수 있다.

헐트퀴스트는 기업들이 AI를 일시적인 유행으로 보고 보안 대응을 늦출 경우 앞으로 지금보다 훨씬 많은 보안경보와 공격에 직면할 수 있다고 경고했다.

◇기업 자체 AI 서버도 새 공격 표적

대기업들이 비용과 보안 등을 이유로 외부 클라우드 서비스 대신 자체 서버에서 맞춤형 AI 모델을 운영하는 사례가 늘면서 이런 시스템도 새로운 공격 표적으로 떠오르고 있다.

AI 모델을 자체 구동하려면 고성능 GPU와 대규모 컴퓨팅 자원이 필요해 운영비용이 높다. 공격자 입장에서는 이 서버를 탈취하면 막대한 비용을 들이지 않고 고성능 AI를 사용할 수 있다.

특히 기업들이 이제 막 AI 인프라 사용량을 늘리는 단계라는 점도 해커들에게 유리한 환경을 만들 수 있다는 지적이 나온다.

갑자기 컴퓨팅 사용량이 크게 늘어나더라도 기업이 이를 AI 도입에 따른 정상적인 증가로 오인할 수 있기 때문이다.

헐트퀴스트는 기업들이 AI를 얼마나 사용할지 아직 파악하는 과정에 있어 공격자들이 비정상적인 컴퓨팅 사용을 정상적인 AI 수요 증가 속에 숨기기 쉬운 상황이라고 설명했다.

FT는 AI 모델의 성능 경쟁이 치열해지는 동시에 고성능 AI 접근권과 컴퓨팅 자원까지 사이버 범죄자들의 주요 탈취 대상으로 떠오르면서 기업의 AI 보안 범위가 계정과 데이터뿐 아니라 서버·GPU 등 인프라 전체로 확대되고 있다고 전했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com