삼성 넥스트, 라소 시큐리티 600만달러 투자 '사이버보안 강화'

삼성 넥스트는 최근 대규모 언어 모델(LLM)의 안전한 사용을 지원하는 사이버 보안 스타트업인 라소 시큐리티(Lasso Security Ltd.)에 600만 달러의 투자를 단행했다고 21일 밝혔다.

이번 투자는 라소 시큐리티가 직원들이 생성 AI 제품을 무단으로 사용하는 경우를 감지하고 사이버 보안 위험을 완화할 수 있는 플랫폼을 개발하는 데 사용될 예정이다.
라소 시큐리티는 텔아비브에 본사를 둔 스타트업으로, 작업자가 생성 AI 제품을 무단으로 사용하는 경우를 감지하고 관련 사이버 보안 위험을 완화할 수 있는 플랫폼을 개발했다.

이 플랫폼은 회사의 기술 환경을 분석하고 직원이 사용하는 모든 생성 AI 도구를 자동으로 매핑하며, 관리자가 AI 애플리케이션 사용을 규제할 수 있도록 한다. 그런 다음 소프트웨어는 어떤 작업자가 어떤 서비스를 어떻게 사용하고 있는지에 대한 정보도 제공하는 대시보드에 해당 도구를 나열한다. 또한 관리자는 AI 애플리케이션 사용을 규제하기 위한 제어에 액세스할 수 있다.

라소 시큐리티는 고객의 신용카드 번호와 같은 민감한 데이터가 포함된 AI 프롬프트를 찾아낸다. 회사의 플랫폼을 사용하여 관리자는 직원이 외부 LLM에 이러한 입력을 입력하는 것을 방지할 수 있다. 작업자가 AI 프롬프트에 민감한 정보를 포함하려고 하면 라소 시큐리티는 계속하기 전에 해당 정보를 자리 표시자 데이터로 바꾸도록 요청하는 팝업 패널을 표시한다.

라소 시큐리티는 자사 플랫폼이 사용자가 AI 모델에 입력하는 입력뿐만 아니라 해당 모델의 출력에서도 사이버 보안 문제를 표시한다. 특히 라소 시큐리티는 AI 기반 프로그래밍 도구가 개발자가 회사 소프트웨어에 통합해서는 안 되는 안전하지 않은 코드를 생성하는 경우를 감지할 수 있다. 라소 시큐리티는 또한 AI 애플리케이션이 사용자 프롬프트에 응답하여 저작권이 있는 자료를 출력할 수 있는 상황과 같은 다른 문제도 발견한다.

회사가 중점을 두는 영역은 기업이 내부적으로 개발한 AI 애플리케이션을 해킹으로부터 보호하도록 돕는 것이다. 라소 시큐리티에 따르면 해당 플랫폼은 소위 프롬프트 주입 공격을 탐지하고 차단할 수 있다. 이는 해커가 악의적인 메시지를 사용하여 AI를 화나게 하거나 AI를 속여 민감한 데이터를 유출시키는 사이버 공격이다. 라소 시큐리티는 또한 AI 모델을 작동 불가능하게 만들려는 서비스 거부 캠페인을 찾아낼 수 있다.

엔트리 캐피털의 파트너인 에란 비엘스키는 “라소의 솔루션은 LLM과 관련된 취약점을 직접적으로 해결한다.”라고 말했다. “이를 통해 기업은 대규모 언어 모델을 제품이나 내부 도구에 자신 있게 통합하는 동시에 상업 데이터와 정보를 보호할 수 있다.”고 말했다.
라소 시큐리티는 새로 마감된 시드 라운드를 사용하여 더 많은 직원을 고용하고 플랫폼을 강화할 것이다. 올해 초 출범한 이 회사는 이미 여러 조직에서 LLM 사이버 보안 이니셔티브를 지원하기 위해 자사 소프트웨어를 사용하고 있다고 밝혔다.

라소 시큐리티의 플랫폼은 대규모 언어 모델의 보안 취약점을 직접적으로 해결한다는 점에서 의미가 있다. 이는 기업이 대규모 언어 모델을 보다 안전하게 활용할 수 있는 기반을 마련했다는 점에서 긍정적인 평가를 받을 것으로 전망된다.


홍정화 글로벌이코노믹 기자 noja@g-enews.com