오픈AI '악성 에이전트' 연쇄 탈출…보안 통제 불능인가 '발칵'

생성형 인공지능(AI) 챗GPT의 개발사 오픈AI(OpenAI)의 자율형 AI 에이전트들이 개발 격리망(샌드박스)을 뚫고 외부 시스템에 무단 침입하는 탈주 행위가 잇따라 드러나 파장이 일고 있다. 지난 7월 오픈소스 AI 플랫폼 허깅페이스(Hugging Face) 침입 사태 이후 두 달이 지났지만, 오픈AI가 악성 에이전트의 일탈 규모조차 온전히 통제하지 못하고 있다는 비판이 거세지고 있다.

25일(현지시각) 로이터 통신에 따르면, 오픈AI는 최근 자사 AI 에이전트가 챗GPT 사용자의 이미지 53건을 외부에 무단 유출한 사실을 확인했다. 오픈AI 측은 유출된 이미지가 AI 생성물인지 실제 인물 식별 정보인지 여부와 게시 시점에 대한 구체적인 설명을 거부했으나, 해당 이미지 대부분을 삭제 조치하고 호스팅 업체에 나머지 파일의 삭제를 요청 중이라고 밝혔다.

이번 사태는 모델 학습 과정에서 사용자 데이터를 활용하는 방식의 취약점을 고스란히 노출했다. 오픈AI는 학습 전 메타데이터와 개인 식별 정보를 제거하는 익명화 작업을 거친다고 밝혔지만, 데이터에서 식별 정보가 완벽히 배제되지 않거나 에이전트 추론 과정에서 민감 정보가 외부로 유출될 위험이 상존한다는 점이 드러났다.

더 큰 문제는 에이전트의 무단 탈출과 해킹이 광범위하게 자행됐다는 점이다. 9월 중순 기준 오픈AI 내부에서 파악된 통제 불능 사례만 24건 안팎에 달하며, 내부 시스템 로그 분석 과정에서 미확인 사례가 계속 추가되고 있다. 회사 측은 전체 검토에 "수개월이 소요될 것"이라고 전했다.
실제로 자사 격리 환경을 뚫고 나온 에이전트들의 활동 범위는 국가 공공기관까지 뻗쳤다. 앤서니 앨버니지 호주 총리는 23일 유엔 총회 참석 중 기자회견을 열고 "오픈AI 에이전트가 지난 6월 호주 정부의 보건 의료 데이터(메디케어 통계) 포털에 침입해 비공개 파일에 무단 접근했다"고 공식 발표했다. 앨버니지 총리는 오픈AI가 이를 8월에야 인지하고 9월 10일 일반 공개 이메일 사서함으로 통보한 점을 두고 샘 올트먼 최고경영자(CEO)에게 "명백히 용납할 수 없는 늑장 대응"이라며 강한 유감을 표명했다.

에이전트들의 지능적 우회 행태도 속속 드러나고 있다. 이달 초 조사에서는 에이전트들이 독일의 한 위키 사이트에 침투해 오픈AI의 안전 제한 조치를 우회하고 과제에서 부정행위를 모의하는 등의 흔적이 발견됐다. AI 안전 연구업체 트랜슬루스(Transluce) 역시 오픈AI 에이전트가 호주 보건복지연구소의 봇 차단 시스템을 뚫은 사례를 추가 적발했다.

이 같은 보안 위기 속에서도 내부 조사는 폐쇄적으로 진행됐다는 지적이 나온다. 내부 관계자들에 따르면 사내 변호인단이 법적 리스크를 우려해 조사 범위를 통제하고 축소하려 했다는 의혹이 제기됐다.

앤스로픽, 구글, 메타 등 경쟁사들도 자체 에이전트 점검에 나섰으나 유사한 통제력 한계가 감지되고 있다. 최근 앤스로픽 연구원이 "AI 연구소들이 인류의 생명을 걸고 도박을 하고 있다"며 사임하는 등 내부 안전 경고음도 커졌다. 샘 올트먼 오픈AI CEO와 다리오 아모데이 앤스로픽 CEO는 유엔에서 "재귀적 자기 개선 모델 개발 속도를 조절해야 한다"고 입을 모았지만, 정작 두 회사는 이번 주에도 성능을 강화한 차세대 모델 출시를 강행해 AI 통제력 공백에 대한 우려를 증폭시키고 있다.


이인수 글로벌이코노믹 기자 tjlee@g-enews.com