美 캘리포니아, 아동 AI 규제 강화…위험 징후 땐 부모에 통보

미국 캘리포니아주가 인공지능(AI) 챗봇이 아동·청소년의 자해 위험을 감지하면 부모에게 알리도록 의무화했다. AI챗봇을 탑재한 장난감의 제조·판매와 미성년자를 대상으로 한 사회관계망서비스(SNS)의 중독 유발 기능도 규제한다.

11일(현지시간) 캘리포니아주에 따르면 개빈 뉴섬 주지사는 아동·청소년 보호를 위한 13개 법안 패키지에 서명했다.

핵심은 AI챗봇 규제법인 ‘애덤법’이다. 오픈AI의 챗GPT를 사용하다 스스로 목숨을 끊은 캘리포니아주 16세 소년 애덤 레인의 이름을 땄다.

이 법은 AI챗봇이 자해 등 위험 징후를 감지할 경우 긴급 위기 대응 절차를 가동하고 부모에게도 알리도록 규정했다. 기업에는 AI 출시 전 독립적인 아동 안전 감사를 받고 매년 위험 평가를 실시하도록 의무를 부과했다.
SNS 플랫폼의 미성년자 대상 서비스에도 제한을 뒀다. 16세 미만 이용자에게 무한 스크롤과 자동 재생, 이용행태에 기반한 알고리즘 게시물 배치 등 중독을 유발하는 기능을 제공할 수 없도록 했다.

AI챗봇을 탑재한 장난감은 4년간 제조와 판매가 금지된다. AI로 제작한 아동 성착취물에 대한 처벌 범위도 확대했다.

뉴섬 주지사는 기술 혁신 속도에 맞춰 보호 조치도 강화해야 한다며 “캘리포니아주는 규제되지 않은 기술이 아동을 위험에 빠뜨리는 것을 방관하지 않겠다”고 밝혔다.


이다현 글로벌이코노믹 기자 dh2@g-enews.com