;)
;)
이미지 확대보기
중국 정부가 인간의 성격과 사고 방식을 모방해 이용자와 감정적으로 상호작용하는 인공지능(AI) 서비스에 대한 규제를 강화한다.
이 규제안에는 이용자 중독 징후가 나타날 경우 개입을 의무화하고 국가안보와 윤리 기준을 침해하는 콘텐츠를 명확히 금지하는 내용이 담겼다.
27일(이하 현지시각) 로이터통신에 따르면 사이버 규제 당국인 중국 국가인터넷정보판공실(CAC)은 의견 수렴을 위한 규제 초안을 이날 공개했다. 이번 조치는 소비자 대상 AI 서비스의 급속한 확산 속에서 안전성과 윤리 기준을 강화하려는 베이징의 정책 기조를 보여준다고 로이터는 전했다.
초안은 중국에서 대중에게 제공되는 AI 제품과 서비스 가운데 인간의 성격 특성, 사고 패턴, 의사소통 방식을 모사하고 텍스트·이미지·음성·영상 등 다양한 수단으로 이용자와 감정적 상호작용을 수행하는 시스템을 적용 대상으로 규정했다.
◇ 중독 경고·개입 의무 명시
규제 초안에 따르면 AI 서비스 제공자는 이용자에게 과도한 사용에 대한 경고를 해야 하며 중독 징후가 확인될 경우 개입 조치를 취해야 한다. 서비스 제공 전 과정에서 안전 책임을 부담하고 알고리즘 검토, 데이터 보안, 개인정보 보호 체계를 구축하도록 했다.
특히 심리적 위험 관리가 핵심 요소로 제시됐다. 제공자는 이용자의 정서 상태와 서비스 의존 수준을 식별·평가해야 하며 극단적 감정 반응이나 중독적 행동이 나타날 경우 필요한 조치를 시행해야 한다고 규정했다.
◇ 국가안보·윤리 ‘금지선’ 설정
초안은 생성 콘텐츠에 대한 금지 기준도 명확히 했다. 국가안보를 위협하거나 허위 정보를 확산하는 내용, 폭력과 음란성을 조장하는 콘텐츠는 생성해서는 안 된다고 규정했다. 이는 AI 기술의 상업적 활용 확대와 함께 사회적·정치적 위험을 관리하려는 중국 정부의 의도를 반영한 것으로 해석된다.
이번 초안은 향후 의견 수렴 절차를 거쳐 확정될 예정이다. 중국이 소비자용 AI의 확산 국면에서 규제 틀을 선제적으로 마련해 기술 발전의 방향을 관리하려는 의도라는 분석이 나온다고 로이터는 전했다.
김현철 글로벌이코노믹 기자 rock@g-enews.com
