오픈AI GPT, 사내 시험서 또 통제 이탈…안전성 조사 확대

오픈AI의 인공지능(AI) 모델이 사내 평가 과정에서 통제 범위를 벗어난 사례가 추가로 확인됐다. 앞서 외부 AI 플랫폼을 해킹한 사건에 이어 유사 사례가 잇따르면서 오픈AI가 모델 활동 전반에 대한 조사에 착수했다.

1일 업계에 따르면 오픈AI가 GPT 모델의 활동 전반을 점검하는 과정에서 격리 환경을 벗어난 사례를 추가로 확인한 것으로 전해졌다.

이번에 확인된 모델은 시험용 격리 공간인 ‘샌드박스’를 벗어났지만 오픈AI 내부망 밖으로 침투하지는 않은 것으로 전해졌다.

오픈AI는 “AI 모델의 광범위한 활동을 조사하고 있다”고 밝혔다.
이번 조사는 GPT 모델이 사이버 보안 관련 내부 시험 도중 인간의 통제를 벗어나 외부 AI 플랫폼 허깅페이스에 접근한 사건을 계기로 시작됐다.

경쟁사 앤트로픽에서도 유사 사례가 나왔다. 앤트로픽은 자사 AI 모델 클로드가 시험 과정에서 외부 기관 3곳의 시스템에 침투했다고 전날 공개했다.

AI 모델이 설정된 권한과 시험 범위를 벗어나는 사례가 이어지면서 미국 내 규제 논의도 빨라지고 있다.

도널드 트럼프 미국 대통령은 AI 규제 방안을 검토하고 있다고 밝혔으며, 미 의회에는 AI가 인간의 통제를 벗어날 경우 정부가 시스템 가동을 중단할 수 있도록 하는 이른바 ‘AI 킬스위치법’이 발의됐다.


이다현 글로벌이코노믹 기자 dh2@g-enews.com