"열린만큼 노출되나"…AI 오픈소스 보안 딜레마

최근 국내 IT 업계가 AI 오픈소스화 흐름에 본격 뛰어들었다. 네이버, 카카오, KT, SKT, LG 등 국내 주요 ICT 기업들이 잇따라 자체 개발한 AI 모델을 오픈소스로 공개하고 있다. 아울러 전세계적으로 오픈소스 보안 위협이 상승하고 있어 관련 우려도 제기된다.

정부가 내세운 '소버린 AI'로 기반 기술 경쟁이 본격화되면서 이동통신업계도 대형언어모델(LLM) 등의 기술 주도권 확보를 위해 오픈소스 전략에 가세하는 흐름이다.

SK텔레콤은 지난 3일 한국어 특화 대형언어모델(LLM)인 'A.X 4.0' 시리즈 2종(72B, 7B)을 오픈소스로 공개했다. 해당 모델은 한국어 문화이해력(CLIcK) 83.5점, 언어이해력(KMMLU) 78.3점을 기록했다.

KT는 마이크로소프트와의 협업과는 별도로 한국어 기반 자체 모델 '믿:음 2.0'을 구현해 오픈소스 형태로 출시했다. KT측은 "누구나 상업적으로 활용 가능하다"며, 오픈소스화를 통해 "국내 AI 생태계 강화와 글로벌 경쟁력 확보에 기여할 것"이라고 말했다.
한편 LG AI연구원은 지난 3월 자체 개발한 추론 인공지능(AI)인 '엑사원 딥'(EXAONE Deep)을 오픈소스 형태로 공개했다. 이 모델은 수능 수학 영역 94.5점, MATH-500 95.7점, GPQA 다이아몬드 66.1점을 기록했다.

국내 플랫폼 기업들도 오픈소스 개방에 속도를 내고 있다.

네이버는 추론형 AI 모델 'HyperCLOVA X THINK'의 오픈소스를 예고하며 개방 확대에 나섰고, 지난 4월에는 상업적 활용이 가능한 'HyperCLOVA X SEED'를 이미 공개했다. 이 모델은 공개 한 달 만에 50만 회 이상 다운로드 됐다.

카카오는 지난 5월 한국어 기반의 AI 가드레일 모델인 'Kanana Safeguard' 3종을 허깅페이스 플랫폼에 공개했다. 카카오는 "생성형 AI의 안전성과 신뢰성 검증을 위한 기술적 장치로, 생태계 조성에 기여하고자 한다"고 설명했다.

관련 보안 리스크도 커지는 양상이다.

글로벌 보안 기업 카스퍼스키에 따르면, 2024년 말 기준 오픈소스 생태계에서 발견된 악성 패키지는 총 1만4000개로, 전년 대비 50% 증가했다.

공격자들은 npm, PyPI 같은 주요 패키지 저장소에 악성 코드를 심어 소프트웨어 공급망 전반을 위협하고 있다. 최근 리눅스 인프라를 노린 'XZ Utils' 백도어 사태처럼, AI 프레임워크나 유관 패키지를 위장한 위협도 급증 중이다.

카스퍼스키 한국지사 이효은 지사장은 "한국은 AI, 핀테크, 스마트 제조 등에서 오픈소스 의존도가 높아 특히 위험하다"며 "사전 검증, 코드 모니터링, 위협 인텔리전스 통합 등 다층 방어 체계가 필요하다"고 밝혔다.

반면 오픈소스 자체가 충분한 보안이라는 주장도 있다. 최근 '제미나이 CLI'를 오픈소스화 한 구글 클라우드 측은 "(오픈소스는) 코드 전면 공개로 누구나 검증 가능하다는 장점이 있다"고 말했다. 이어 "제미나이 CLI에 맥OS의 Seatbelt(애플의 샌드박스 기술을 구현하는 커널 확장으로, 특정 프로세스의 권한을 제한하여 시스템 보안을 강화는 방식)와 컨테이너 기반 샌드박싱, 사용자 제어형 프롬프트 설계 등 다중 보호층이 적용돼 있다"고 설명했다. 오픈소스의 '투명성과 자율 검증'이 오히려 폐쇄형 상용 소프트웨어보다 더 나은 보안성을 가질 수 있다는 설명이다.

보안성과 개방성은 양립 불가능한 가치가 아니다. 오픈소스는 투명성, 생태계 확장, 기술 자립이라는 장점을 갖지만, 동일한 코드 접근 권한은 공격자에게도 열려 있기에 공급망 보안 관리 책임이 요구된다. 패키지 유지관리자 부족, 장기 미패치 상태 등 취약한 프로젝트 관리 현실은 공격의 틈이 되기도 한다.


김지유 글로벌이코노믹 기자 tainmain@g-enews.com