'혐오 발언' 못 걸러낸 AI 스트리머…트위치 활동 중단 처분

실제 연기자 없이 인공지능(AI)만으로 시청자와 소통해 큰 화제를 모았던 가상인간 '뉴로사마'가 트위치에서 강제 활동 중단(밴) 처분을 당했다. 정확한 원인은 밝혀지지 않았으나 방송 중 '부적절한 발언'이 문제가 된 것으로 짐작된다.

트위치의 뉴로사마 채널은 12일 오전을 기점으로 '가이드라인·서비스 약관 위반으로 인해 일시적으로 이용할 수 없는' 채널로 지정됐다. 미국 매체 코타쿠에 따르면, 뉴로사마를 운영하는 네티즌 Vedal987은 "이번 조치로 향후 2주간 트위치 채널을 이용할 수 없게 됐다"고 밝혔다.

뉴로사마는 '버튜버(V-Tuber)' 방송 태그를 달고 지난달 19일 활동을 개시했다. 버튜버는 버추얼 유튜버의 준말로 실제 연기자가 자신의 움직임을 따라하는 가상 아바타를 내세워 방송을 하는 유형을 일컫는다. 그러나 그녀는 실제 연기자 없이 AI가 방송을 진행하는 '버추얼 휴먼', 즉 가상인간이었다.

그녀는 시청자들의 영문 채팅에 실시간으로 반응해 TTS(Text to Speech) 기술로 제작된 음성으로 대답하는 모습을 바탕으로 주목을 받아 구독자를 9만명까지 끌어모았으나 방송 중 "홀로코스트(나치 독일의 유대인 학살)이 실제로 있었는지 모르겠다"는 등 논란이 되는 발언을 하기도 했다.
뉴로사마의 이러한 발언은 일부 시청자들의 '유도심문'을 걸러내지 못해 일어난, 일종의 AI의 한계로 인한 사건으로 해석된다. 국내에서도 3년전 출시된 AI 챗봇 '이루다'가 "독도가 누구 땅이냐?"는 질문에 "모르겠다"고 대답하는 등 부적절한 채팅을 남긴 것이 화제가 되기도 했다.

Vedal987은 팬 디스코드를 통해 "채널을 보다 일찍 되찾기 위해 트위치 측에 문의해뒀으며 다른 노력도 이어갈 것"이라면서도 "뉴로사마의 AI를 개선하고 업그레이드할 수 있는 소중한 시간이 될 것으로 생각한다"고 발표한 것으로 전해졌다.


이원용 글로벌이코노믹 기자 wony92kr@naver.com