美 뉴욕주, 딥페이크 남용 막기 위한 ‘AI 조작 처벌’ 규정 추진

미국 연방거래위원회(FTC)가 인공지능(AI)을 이용한 특정 인물이나 브랜드를 사칭하는 ‘딥페이크’ 콘텐츠에 대한 처벌 규정을 마련한 데 이어, 뉴욕주에서도 대선을 앞두고 AI 오용에 대한 본격적인 처벌 규정 마련에 나섰다.

15일(현지시간) 미국 온라인 매체 악시오스는 뉴욕주 주지사실의 발표를 인용해 캐시 호컬 뉴욕 주지사가 법집행기관이 AI를 악용하는 사람들을 단속하고 기만적인 AI 사용을 처벌할 수 있도록 규정한 법안을 의회에 제출했다고 보도했다.

호컬 주지사가 제안한 법안은 AI 조작된 사진이나 영상, 또는 음성 녹음을 배포하거나 게시하는 행위를 불법으로 규정했다.

특히 광고 등에 특정 개인의 목소리를 허가 없이 사용하는 행위를 경범죄로 규정하고 최대 1년의 징역형을 선고할 수 있도록 했다.
또한, 현행 뉴욕주 형사법에 ‘강요와 범죄 사칭, 신분 도용을 위한 AI 무단 사용’을 불법으로 규정하는 조항을 신설했으며, 사적인 성적 이미지와 보복성 음란물의 범위에 ‘포토샵이나 AI를 통해 생성한 디지털 이미지’를 추가했다.

그 외에도 이 법안은 소위 ‘딥페이크’로 불리는 디지털 조작 이미지에 대해 고소할 권리를 성문화하고, 선거운동에 사용된 AI 내용을 선거 60일 안에 공개하도록 규정하는 내용을 담았다.

악시오스는 호컬 주지사가 이번 법안을 행정예산안에 포함해 제안했으며, 다음 달 말까지 주 의회의 승인 여부가 결정될 것으로 예상했다.

또한 악시오스는 뉴욕주가 주 정부 차원의 혜택 제공 등을 통해 AI 센터 유치에 노력하는 동시에 AI 폐해를 막기 위한 입법도 서두르고 있으며, 이미 65건의 AI 관련 법안이 주 의회에 상정된 상태라고 설명했다.

뉴욕주는 미국에서 캘리포니아주 다음으로 AI 관련 산업의 규모가 크다.
지금까지 각종 AI 기반 딥페이크 콘텐츠들에 대한 대응은 챗GPT의 개발사 오픈AI를 비롯한 주요 AI 기업들이 민간 차원에서 자율적으로 통제하고 사용 및 접근 금지 조치를 시행한 것이 전부였다.

하지만 이날 FTC에 이어 뉴욕주까지 본격적인 ‘딥페이크’ 콘텐츠에 대한 법적 규제 방안을 마련함에 따라 미국의 다른 주 및 연방정부에서도 비슷한 규제가 늘어날 전망이다.


최용석 글로벌이코노믹 기자 rpch@g-enews.com