오픈AI, 사용자의 포르노 영상 제작 허용 검토

챗GPT의 개발사인 오픈AI가 사용자가 자사 제품을 통해 인공지능(AI)이 생성한 포르노 및 기타 노골적인 콘텐츠를 제작할 수 있도록 허용할지 여부를 검토하고 있다고 영국 일간 가디언이 9일(현지 시각) 보도했다.

보도에 따르면 오픈AI는 딥페이크 금지를 성인물에 계속 적용할 것이라고 강조했지만, 운동가들은 이 제안이 "안전하고 유익한 AI를 생산한다"는 회사의 목표를 훼손한다고 주장하고 있다.
DALL-E 이미지 생성기의 개발사이기도 한 오픈AI는 개발자와 사용자가 자사 제품을 통해 "책임감 있게" 작업하기에 안전하지 않은 콘텐츠(NSFW)를 만들 수 있도록 하는 방안을 고려하고 있다며 "에로틱한 영상, 극단적인 유혈 영상, 비방, 원치 않는 욕설이 이 콘텐츠에 포함될 수 있다"고 밝혔다.

이 제안은 AI 도구 개발 방법을 논의하는 오픈AI 문서의 일부로 공개됐다.

미국 샌프란시스코에 본사를 둔 이 회사의 직원인 조앤 장은 미국 공영 라디오방송 NPR과의 인터뷰에서 오픈AI가 자사 제품에서 에로틱한 텍스트와 누드 이미지 생성을 항상 금지해야 하는지 논의를 시작하고 싶다고 밝혔다. 하지만 그러면서도 그는 딥페이크는 허용되지 않을 것이라고 강조했다.

그는 "지금 당장 AI 포르노를 만들려고 하는 것은 아니다"라면서도 AI를 이용해 만든 결과물이 포르노로 간주될지 여부는 "정의에 따라 달라질 수 있다"고 덧붙였다.

올해 가수 테일러 스위프트의 딥페이크 노골적인 이미지가 X에서 무차별 확산된 뒤 X가 테일러 스위프트에 관한 콘텐츠 검색을 일시적으로 금지하면서 인공지능이 생성한 포르노 확산의 위험성이 강조된 바 있다.

영국에서는 노동당이 사람의 나체 이미지를 생성하는 누드화 도구를 금지하는 방안을 검토하고 있다.
아동 온라인 안전을 위한 캠페인 활동가이자 크로스벤치 동료인 비반 키드론은 오픈AI가 "스스로의 사명 선언문을 급속히 훼손하고 있다"고 비난했다. 그는 "기술 업계가 AI 에로티카와 같은 상업적 이슈에 몰두하면서 그로 인한 피해에 대한 실질적인 조치와 기업의 책임을 다하지 않는 것은 끝없이 실망스러운 일"이라고 강조했다.

더럼 대학교의 법학교수이자 포르노 규제 전문가인 클레어 맥글린은 기술 기업이 성인용 콘텐츠를 책임감 있게 제작하겠다는 서약에 의문을 제기했다. 마이크로소프트는 올해 유명인의 이미지가 무단 딥페이크 제작에 사용되었다는 보도 이후 오픈AI 기술을 사용하는 마이크로소프트 제품에 대한 새로운 보호 기능을 도입한 바 있다.

이와 관련해 오픈AI의 최고기술책임자인 미라 무라티는 최근 월스트리트저널과의 인터뷰에서 동영상 제작 도구인 '소라'가 누드 이미지 제작을 허용할지 여부는 확실하지 않다고 말한 바 있다.


고현석 글로벌이코노믹 기자 pescatorio@g-enews.com