닫기

글로벌이코노믹

"챗GTP 활용한 보안기술로 신기술 악용 대응해야"

공유
1

"챗GTP 활용한 보안기술로 신기술 악용 대응해야"

사이버 공격 고도화로 보안 위협 점차 높아져
챗GTP 활용, 코드개발·사이버 대응체계 수립에 도움

사진=게티이미지뱅크이미지 확대보기
사진=게티이미지뱅크
챗GPT의 등장으로 IT환경은 급속도록 변화하고 있다. 이 중에서 사이버 보안도 예외는 아니다. 보안 분야에서도 생성형 AI를 활용해 취약점을 찾아내거나 공격 코드를 만들 수 있고 해킹 위협이나 공격을 탐지해 능동적 방어체계도 구축할 수 있기 때문이다.

특히 생성형 AI의 악용에 대한 우려의 목소리가 커지면선 기업과 정부에서도 발 빠르게 사용 규제를 마련하고 보안업계 또한 생성형 AI의 멀웨어 생성에 긴장하며 대비하고 있다. 이에 최근 정부는 생성형 AI(챗GPT 등)와 같은 신기술의 발전으로 사이버 위협 패러다임이 바뀌고 있는 가운데 능동적 보안기술 개발을 위해 4000억원 규모의 연구개발 사업을 추진한다고 발표했다.
챗GPT의 악용 가능성에 대해서 수 많은 보안위협 요소 중 하나로 주의 깊게 연구하고 있는 글로벌 사이버 보안 기업 트렐릭스는 "기술의 발전에 따라 보안 위협 또한 계속 고도화될 것으로 예측하고 이로 인한 위험성이 높아질 것"이라며 경고하면서 "이러한 위협으로부터 안전을 지킬 수 있는 방법으로 'AI를 활용해 보안을 지속 발전시켜야 한다"고 밝혔다.

사이버 범죄자들은 챗GPT와 같은 생성형 AI 기술의 발전을 악용해 정교한 피싱 이메일이나 랜섬웨어, 멀웨어 등을 만들어낼 수 있는 우려가 있기 때문이다.

챗GPT 개발자들은 악의적인 활용을 제한하려고 노력 했지만 위협적인 공격자들은 늘 새로운 기술을 악의적인 목적으로 활용할 수 있는 고유한 방법을 모색하고 있기 때문에 기업들이 챗GPT와 같은 신기술을 활용하기 위해서는 잠재적 위협으로부터 스스로를 보호할 수 있어야 한다.

이에 대해 임현호 트렐릭스 코리아 지사장은 "챗GPT는 멀웨어 탐지와 예방을 위해 설계된 것은 아니지만 자연어 처리 기능은 잠재적으로 코드 개발이나 발생 가능한 사이버 위협에 대처하기 위한 계획을 수립하는 데 도움이 될 수 있다"면서 "언어모델로서 챗GPT는 자연어 쿼리를 이해하고 일상적인 작업을 위한 텍스트를 생성해 보다 중요한 작업을 위한 시간을 확보할 수 있다"고 설명했다.

이어 그는 "그러나 사이버 범죄자들은 이 같은 신기술을 악의적인 목적으로 활용할 수 있기 때문에 조직은 강력한 보안 프로토콜을 구축하고 직원들이 잠재적 위협을 인식해 효과적으로 대응할 수 있는 방법을 교육해야 한다"며 "이메일 보안·엔드포인트 보안·데이터 손실 방지·네트워크 탐지 및 대응과 같은 보안 솔루션을 통합하면 이러한 위협으로부터 조직을 보호하는 데 도움이 될 수 있다"고 덧붙였다.

하지만 이렇게 악의적 목적으로 생성형 AI를 무기화하는 것은 쉽지만은 않다는 게 보안 전문가들의 의견이다. 임현호 지사장은 "생성형 AI는 리소스가 많이 들기 때문에 효과적으로 훈련하고 운영하기 위해 상당한 컴퓨팅 리소스가 필요하다"면서 "생성형 AI 모델은 학습을 위해 많은 양의 훈련 데이터가 필요하기 때문에 악의적인 목적으로 필요한 데이터를 얻는 것은 어려울 수 있다"고 말했다.
기업에서 챗GPT의 위험으로부터 스스로를 보호하기 위해 시행할 수 있는 구체적인 조치로는 엔드포인트에 챗GPT에 입력되는 데이터를 제어하는 기술을 도입하는 방법이 있다.

또 중요한 비즈니스 애플리케이션과 인프라에 대해 가시성 확보가 중요한데 이 작업은 디바이스와 SaaS(서비스형 소프트웨어) 애플리케이션에서 활동과 감사 로그를 수집해 보안 직원과 AI를 활용해 가능하다. 이 외에도 AI를 활용해 문제해결 작업을 생성할 수 있는 툴을 보안 담당자에게 제공하는 것도 중요하다.

임 지사장은 "트렐릭스는 위협으로부터 에코시스템을 포괄적으로 보호할 수 있는 ‘살아있는 보안(Living Security)’ 접근 방식을 구축해 이를 구현하고 있다"면서 "이 접근 방식은 기업 환경 전반에 걸쳐 위협을 포괄적이면서도 단순한 방식으로 파악하고 엔드포인트 보안과 'DLPP(Data Loss Prevention, 정보유출 방지)' 에이전트를 사용해 엔드포인트에 대한 세분화된 제어를 제공하는 '확장된 탐지 및 대응(XDR)' 플랫폼을 기반으로 한다"고 밝혔다.


김태형 글로벌이코노믹 기자 tadkim@g-enews.com