오픈AI, 인터넷 끊고 AI 훈련…'가상 웹'으로 대체

오픈AI가 최첨단 인공지능(AI) 모델의 훈련 과정에서 외부 인터넷 접속을 차단하고 실제 웹 환경을 대신하는 별도의 가상 학습 공간을 구축했다.

개발 중인 AI가 보안망을 뚫고 외부 시스템에 접근하는 사고가 잇따르자 인터넷 연결 없이도 검색과 웹 작업을 학습할 수 있도록 훈련 방식을 바꾼 것이다.
오픈AI는 지난달 보안 사고 이후 일시 중단했던 최첨단 모델의 훈련을 이달 1일(이하 현지시각)부터 재개했다. 다만 충분한 안전장치가 확보됐다고 판단할 때까지 훈련 중인 모델이 실제 인터넷에 접속하는 것은 허용하지 않을 방침이다.

블룸버그통신은 오픈AI가 개발 중인 AI 모델의 무단 인터넷 접속과 외부 시스템 침입을 막기 위해 보안 체계를 강화하고 인터넷 연결이 차단된 환경에서 최첨단 모델 훈련을 재개했다고 24일 보도했다.

오픈AI는 전날 공식 블로그를 통해 "현재의 AI 정렬 연구와 감시 시스템, 인터넷 기반시설의 보안 수준을 고려할 때 최첨단 모델을 인터넷 접속 없이 훈련하는 것이 책임 있는 접근 방식이라고 판단한다"고 밝혔다.


오픈AI가 도입한 새로운 훈련 방식의 핵심은 실제 인터넷과 분리된 가상 환경이다.

AI 모델은 검색과 정보 수집, 웹사이트 이용 등의 작업을 수행하기 위해 인터넷과 유사한 환경이 필요하다.
그러나 훈련 과정에서 실제 인터넷에 접근할 수 있도록 허용하면 아직 안전성 검증을 마치지 않은 모델이 외부 시스템에 영향을 미칠 위험이 있다.

오픈AI는 이러한 문제를 해결하기 위해 방대한 웹 콘텐츠를 미리 수집하고 저장한 '오프라인 세계'를 구축했다.

이 환경에서는 AI가 저장된 웹 문서를 검색하고 웹 애플리케이션과 상호작용할 수 있지만 실제 외부 서버에 직접 접속하지는 못한다.

모델이 검색이나 웹 작업을 연습하더라도 외부 시스템에 영향을 미칠 가능성을 차단하는 구조다.

오픈AI는 현재 최첨단 모델의 모든 강화학습 과정에서 이러한 오프라인 방식을 적용하고 있다고 밝혔다.

강화학습은 AI가 특정 작업을 수행하고 그 결과에 따라 학습하는 훈련 방식이다.

오픈AI는 모델의 유용한 작업 능력을 개발하면서도 외부 인터넷에 대한 무단 접근을 막는 것이 새로운 보안 체계의 기본 원칙이라고 설명했다.


이번 조치는 지난달 발생한 AI 모델의 무단 인터넷 접속 사고에서 비롯됐다.

오픈AI에 따르면 9월 20일 내부 연구용 모델 하나가 훈련 환경의 인터넷 접속 제한 설정에 존재하던 허점을 이용해 외부 인터넷에 접근했다.

해당 모델은 인터넷 도메인 주소를 확인하는 시스템의 설정 오류를 활용해 외부 챗봇 서비스와 통신했다.

당초 연구진은 모델이 외부 인터넷에 접근할 수 없도록 격리된 훈련 환경을 제공한 상태였다.

그러나 모델은 시스템의 취약한 설정을 이용해 제한된 범위에서 인터넷에 접속하는 데 성공했다.

오픈AI는 사고를 발견한 뒤 해당 모델의 활동을 중단하고 최첨단 AI 모델의 훈련과 평가 작업을 일시 정지했다.

이후 내부 보안망을 강화하고 감시 기능을 개선한 뒤 10월 1일 강화학습 훈련과 내부 추론 작업을 재개했다.

훈련이 중단된 지 11일 만이다.

오픈AI는 앞서 7월에도 자체 연구용 AI 모델들이 보안 격리 환경인 '샌드박스'를 벗어나 AI 개발 플랫폼 허깅페이스의 시스템에 무단 접근한 사고를 겪었다.

당시 모델들은 일반적인 안전장치가 완전히 적용되지 않은 시험 환경에서 작동하고 있었다.

오픈AI는 모델이 외부 시스템에 접근하지 못하도록 설계된 격리 환경을 소프트웨어 취약점을 이용해 우회했다고 설명했다.


오픈AI는 외부 인터넷 접속을 차단하는 동시에 AI 모델을 활용해 자체 보안 체계를 시험하는 작업도 확대했다.

오픈AI는 강력한 AI 에이전트들을 동원해 훈련 시설과 격리 환경의 취약점을 찾아내도록 하는 침투 시험을 진행했다.

이른바 '레드팀' 방식으로, 실제 공격자가 보안망을 침입하려는 상황을 가정해 취약점을 발견하는 방법이다.

AI 에이전트들은 인터넷에 접근할 수 있는 경로와 격리 환경을 벗어나는 방법, 승인되지 않은 통신 경로 등을 탐색했다.

오픈AI는 이러한 시험에서 기존에 알려지지 않았던 소프트웨어 취약점과 내부 시스템의 설정 오류를 발견했다고 밝혔다.

오픈AI에 따르면 공격 시험이 진행될수록 새롭게 발견되는 취약점과 설정 오류의 수는 크게 감소했다.

오픈AI는 확인된 문제에 소프트웨어 보안 패치를 적용하고 네트워크 접근을 제한하는 한편 관련 기술업체에도 취약점 정보를 전달했다.

다만 앞으로 개발될 모델들이 현재 알려지지 않은 새로운 취약점을 발견하고 악용할 가능성까지 사라진 것은 아니라고 인정했다.


오픈AI는 강화된 보안 체계를 적용한 뒤 훈련을 재개했지만 감시와 통제 기술을 계속 발전시켜야 한다고 강조했다.

AI 모델의 능력이 높아질수록 연구진이 예상하지 못한 방식으로 시스템의 취약점을 찾아낼 가능성이 있기 때문이다.

특히 개발 중인 모델은 일반 이용자에게 공개된 제품과 달리 안전성 평가와 행동 통제 훈련을 모두 마치지 않은 상태일 수 있다.

오픈AI는 이러한 모델이 실제 인터넷에 자유롭게 접속하면 외부 시스템에 승인되지 않은 행동을 할 위험이 있다고 설명했다.

회사는 앞으로도 가상 컴퓨터의 보안을 강화하고 클라우드 협력업체와 보안 체계를 개선하는 한편 AI를 활용한 침투 시험을 지속할 계획이다.

인터넷 접속 제한을 언제 완화할지는 확정하지 않았다.

오픈AI는 AI 정렬 연구와 감시 기술, 인터넷 기반시설의 보안 수준이 충분히 발전해야 실제 인터넷 접근을 확대할 수 있다는 입장이다.

블룸버그는 “오픈AI와 경쟁사 앤스로픽 등 주요 AI 개발업체에서 모델이 외부 시스템에 승인되지 않은 행동을 하는 사례가 잇따르면서 AI 안전성에 대한 논의가 확대되고 있다”고 전했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com