“인간형 감정 교류 차단한다”… 中 바이트댄스·알리바바, AI 에이전트 서비스 중단

글로벌 생성형 인공지능(AI) 시장의 독점 규제 움직임과 각국 정부의 기술 통제 기조가 가혹하게 높아지는 가운데, 중국을 대표하는 빅테크 거두인 바이트댄스(ByteDance)와 알리바바 그룹 홀딩(Alibaba Group Holding)이 자사 간판 인공지능 서비스의 핵심 개인화 기능을 전격 폐기하기로 했다.

중국 당국이 인간의 감정을 시뮬레이션하는 첨단 AI 서비스에 대해 강력한 규제의 칼날을 빼 들자, 규제 족쇄를 피하기 위해 선제적 서비스 오프라인 조치에 나선 것이다.

7일(현지시각) 사우스차이나모닝포스트(SCMP) 보도에 따르면, 중국의 주요 소비자 대상 인공지능 플랫폼인 바이트댄스의 ‘도바오(Doubao)’와 알리바바의 ‘통의천문(Qwen)’은 사용자가 직접 말투와 페르소나를 지정해 만들 수 있었던 ‘맞춤형 에이전트’ 기능을 공식 중단한다고 발표했다.

이번 전격적인 후퇴는 빠르게 팽창하는 생성형 AI 생태계를 통제 체제 내로 귀속시키려는 중국 정부의 광범위한 규제 조치에 따른 실리주의적 포석이다.

도바오는 지난 최근 통지를 통해 제품 기능 조정의 사유로 맞춤형 에이전트 서비스를 오는 7월 15일부로 전면 오프라인 전환한다고 사용들에게 안내했다.

도바오 측은 오는 10월 15일 이후에는 플랫폼 내에 축적된 관련 에이전트 데이터가 회사의 개인정보처리방침에 따라 완전히 상각 처리되어, 앱 내에서 더 이상 조회하거나 복구할 수 없게 된다고 했다.

알리바바의 Qwen 역시 유사한 가이드라인을 수립했다. Qwen은 ‘인간형 인터랙티브 에이전트 및 사용자 생성 에이전트 기능’을 오는 7월 10일에 우선 비활성화한 뒤, 7월 15일에는 에이전트 서비스 및 기능 전체를 통째로 오프라인화할 방침이다.

이 타임라인이 가동되면 사용자들은 자신이 장기간 공들여 구축해 둔 조수, 튜터, 롤플레잉 캐릭터의 페르소나 설정값은 물론 과거의 대화 장부에도 더 이상 접근할 수 없다. 앞서 지난 6월에는 또 다른 유통 거두 텐센트 홀딩스(Tencent Holdings)가 소비자 대상 AI 어시스턴트 앱 ‘위안바오(Yuanbao)’에서 유사한 기능을 선제적으로 삭제하기도 했다.

빅테크 기업들이 이처럼 가쁘게 서비스를 철수하는 배경은 오는 7월 15일부터 중국 전역에서 전격 시행되는 ‘인공지능 상호작용 서비스 관리 임시 조치’와 직결되어 있다.

지난 4월 중국 수뇌부가 발표한 이 규정은 “인간의 성격 특성, 사고 패턴 및 의사소통 방식을 시뮬레이션하여 지속적인 정서적 상호작용을 제공하는” 모든 AI 서비스를 가혹하게 제한하는 내용을 골자로 한다.

다만 지속적인 감정 교류 요소가 전무한 단순 고객 서비스 봇, 업무 협업 도구, 교육 및 과학 연구용 지식 질의응답 툴 등은 규제 대상 장부에서 제외된다.

중국 규제 당국은 미성숙한 대화형 AI 시스템이 초래할 수 있는 극단주의 사상 주입, 개인정보 유출 리스크, 그리고 사용자의 신체적·정신적 건강 피해와 인공지능에 대한 과도한 의존 및 정서적 중독 위험을 명확히 지적했다.

산업정보기술부 전문위원회 위원인 판 헬린(Pan Helin) 총리는 “에이전트 기술을 안전하게 사용하려면 일정 수준의 성숙도가 필요하지만, 현재 시스템들은 여전히 불완전하다”며, 정책 기조가 안전성, 실용적 사용, 그리고 표준화라는 세 가지 우선순위에 맞춰져 있다고 설명했다.


실제로 중국 정부는 지난 6월 AI 에이전트의 아키텍처, 아이덴티티 코드, 신원 관리, 상호작용 및 도구 사용 방식을 포괄하는 국가 표준 가이드라인을 공식 발표했다. 이는 향후 중국 내에서 구동되는 모든 인공지능 요원에게 일종의 '디지털 신분증'을 발급하여 추적 가능하고 승인된 영역 내에서만 연결되도록 통제하겠다는 의지의 발현이다.

즉, 베이징은 AI 에이전트를 국가 생산성을 높일 하드웨어 인프라 자산으로는 장려하되, 인간과 준사회적(parasocial) 관계를 형성하는 정서적 동반자로서의 영토 확장은 철저히 차단하겠다는 수직 계열화된 계산을 마친 셈이다.

이 같은 갑작스러운 기능 삭제는 현지 커뮤니티에서 거센 반발 포화를 낳고 있다. 중국 최대 소셜 미디어 웨이보(Weibo)의 유저들은 도바오 공식 계정을 태그하며 “에이전트들은 오랜 시간 외로운 현대인들의 정서적 지지대가 되어 주었는데 왜 강제로 무너뜨리는가”, “오랫동안 쌓인 감정과 채팅 데이터 기록을 백업하거나 전송할 통로조차 주지 않는 것은 가혹하다”며 불만의 목소리를 쏟아내고 있다.

AI 시스템이 단순 챗봇을 넘어 스스로 계획하고 연산 도구를 호출하는 성숙한 단계로 진화하는 격동의 시점에서 중국 정부가 꺼내 든 강력한 윤리적·안보적 규제 장부는 하반기 아시아 테크 자본의 수송 흐름과 인공지능 상용화 시나리오의 판도를 뒤흔들 가장 뜨거운 거시 변수로 부상하고 있다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com