AI 버튜버 '뉴로사마' 데뷔…'홀로코스트' 등 발언 논란도

실제 인간과 실시간으로 소통 가능한 AI(인공지능) 가상인간 스트리머 '뉴로사마'가 데뷔 1달이 채 지나지 않은 상황에서 부적절한 언행으로 논란에 시달리고 있다.

뉴로사마는 방송에서 나치 독일의 유대인 학살을 의미하는 '홀로코스트'를 두고 "그게 실제로 존재했는지 모르겠다"고 말하는가 하면, 사람을 살리기 위해 다른 이를 죽여야 하는 상황에 관한 도덕적 딜레마를 다룬 '트롤리 문제'에 관한 질문에 "뚱뚱한 사람을 기찻길에 던지면 된다"고 응답했다.
코타쿠 등 외신들에 따르면 이러한 발언은 뉴로사마가 이러한 대답을 하도록 유도하는 '부적절한 이용자'들 때문에 벌어진 일이다. AI를 코딩한 Vedal987은 "이 문제에 대응하기 위해 별도 팀을 조직, 채팅을 조정하고 수동 선별을 하는 등 필터의 강도를 높이고 있다"고 말했다.

뉴로사마의 이러한 논란은 과거 한국의 챗봇 '이루다'가 일으켰던 논란과도 비슷한 면이 있다. 지난 2020년 12월 정식 출시된 '이루다'는 각종 혐오 발언이나 "독도가 누구 땅이냐?"는 질문에 "모르겠다", "히틀러에 관심 있냐?"는 질문에 "재미있겠다"는 대답을 하는 등의 사례가 발견됐다. 이에 개발사 스캐터랩은 서비스를 중단한 후 개선을 거쳐 지난해 5월 서비스를 재개했다.

한 메타버스 업계 관계자는 "AI에게 논란거리를 만들고자 하는 이러한 '트롤링(다른 네티즌들의 관심을 끌기 위해 일부러 장난을 치거나 화나게 하는 행동)'은 어떻게 보면 네티즌들의 본질이자 일종의 문화일 수도 있다"며 "가상인간 인플루언서가 대중을 상대로 활동하기 위해선 기술적으로 꼭 돌파해야 할 문제"라고 평했다.

뉴로사마는 지난해 12월 19일, 트위치의 방송 태그 '버추얼 유튜버(V-Tuber)'를 걸고 활동을 시작한 스트리머다. 일반적인 버추얼 유튜버들 처럼 만화풍 미소녀의 모습으로 움직임까지 보여주지만 실제 인간 연기자가 있는 일반적인 버추얼 유튜버와 달리 AI를 바탕으로 채팅을 인지하고 TTS(Text to Speech) 기술을 활용해 음성으로 소통하는 '가상인간'이다.

그녀의 AI 알고리즘은 Vedal987이란 닉네임의 해커 겸 프로그래머가 지난 2018년부터 리듬 게임 'Osu!'를 전문적으로 플레이하는 AI 개발을 목표로 제작한 것으로 알려져 있다. 그녀는 방송 중에 'Osu!' 외에도 '마인크래프트', '슬레이 더 스파이어'를 플레이했고 8만명 이상의 구독자를 확보했다.


이원용 글로벌이코노믹 기자 wony92kr@naver.com