닫기

글로벌이코노믹

"어디까지가 '나쁜 AI'야?"…SNS 'AI 표시제'의 딜레마

공유
0

"어디까지가 '나쁜 AI'야?"…SNS 'AI 표시제'의 딜레마

메타·구글·틱톡 줄줄이 AI 라벨 정책 실시
보편화된 생성형 AI 기술…'선 긋기' 난항

소셜 미디어 업체들이 연달아 'AI 생성 콘텐츠 의무 표시' 정책을 실시하고 있다. 사진=프리픽(Freepik)이미지 확대보기
소셜 미디어 업체들이 연달아 'AI 생성 콘텐츠 의무 표시' 정책을 실시하고 있다. 사진=프리픽(Freepik)

글로벌 소셜 미디어들이 연달아 생성형 AI(인공지능) 콘텐츠 의무 표시제, 이른바 'AI 라벨' 정책을 발표했다. 무분별한 AI 콘텐츠 난립을 위해 필요한 정책이란 평을 받고 있으나 '어디까지가 AI 콘텐츠인가'에 관한 논란, 정책 운용 과정의 신뢰성 문제 등 적지 않은 진통이 있을 전망이다.

중국 바이트댄스의 숏폼 영상 플랫폼 '틱톡'은 최근 플랫폼 내 영상에 'AI 생성' 라벨을 붙이는 정책을 실시한다고 발표했다. 사용자가 자체적으로 라벨을 붙이는 것을 독려하는 데 더해 자체적인 '틱톡 AI' 툴을 활용해 생성형 AI 콘텐츠를 식별, 표시한다는 방침이다.

이와 더불어 틱톡은 C2PA(Coalition for Content Provenance and Authenticity, 콘텐츠 출처·진위 확인 연합체)에 가입했다. C2PA는 어도비가 X(트위터), 뉴욕타임스와 협력해 2019년 세운 비영리 기구다. 이미지와 영상 등 미디어 콘텐츠의 출처를 명시하도록 하는 개방형 기술 표준 구축을 목표로 하며 AI 제작 이미지 또한 이들의 활동 범위에 포함된다.

C2PA 운영위원회에는 어도비와 더불어 구글, 마이크로소프트(MS), 오픈AI, 인텔, 소니 등이 이름을 올렸다. 구글이 운영하는 영상 플랫폼 유튜브는 틱톡보다 2개월 앞선 올 3월 이미 생성형 AI 라벨 제도를 도입했다.

틱톡, 유튜브, X와 더불어 대표적인 소셜 미디어로 꼽히는 메타 플랫폼스(메타)는 C2PA에 가입하진 않았으나 별도로 AI 관련 제도를 운영하고 있다. 메타는 올 2월 "향후 몇개월 안에 인스타그램과 페이스북, 스레드에 AI 생성 라벨을 자동으로 붙이는 시스템을 적용할 계획"이라고 발표했다.

C2PA(Coalition for Content Provenance and Authenticity) 공식 사이트 캡처. 사진=C2PA이미지 확대보기
C2PA(Coalition for Content Provenance and Authenticity) 공식 사이트 캡처. 사진=C2PA

생성형 AI는 소셜 미디어 환경에서 떼어낼 수 없는 기술로 자리 잡았다. 2022년 세계를 강타한 '챗GPT'와 같은 AI 챗봇 외에도 AI 생성 이미지, TTS(Text to Speech) 기술을 활용한 AI 음성과 노래는 이미 유튜브와 X 등에서 네티즌들 사이에 유행하는 콘텐츠로 자리 잡았다.

AI 콘텐츠 중 상당수는 월 정액 등 형태로 상용화된 AI 서비스들을 통해 제작된다. 일부 AI 모델들은 무료 오픈 소스 형태로 공개돼있어 기초적인 프로그래밍 지식이 있으면 누구든 손쉽게 생성형 AI에 접근할 수 있다.
이로 인해 일부 이용자들이 자신이 생성형 AI를 활용했다는 것을 숨긴 채 명성을 얻거나 유료 커미션(주문 제작)을 받는 등 부작용도 적지 않게 일어나고 있다. AI를 활용해 가짜 뉴스나 정치적 선전물로 활용하는 사례도 적지 않다. 이러한 현상은 자연히 'AI 라벨' 등 규제의 필요성을 요구하는 목소리로 이어지고 있다.

소셜 미디어들이 AI를 자체적으로 규제하는 것에 대해 우려하는 목소리도 적지 않다. 생성형 AI 기술은 자체적인 AI 모델 외에도 이미지·영상 편집 툴 곳곳에 적용되고 있다. 자연히 소셜 미디어들이 '어디까지가 AI 생성 콘텐츠인지' 판정하는 것, 각 소셜 미디어의 판단의 통일성 등 문제가 거론된다.

미국 매체 악시오스는 이에 관해 "소셜 미디어에서 보편적으로 쓰는 '뷰티 필터' 등 사소한 수정, 개선은 AI가 아니라고 판정하는 방식"이라며 "각 소셜 미디어가 자체적으로 활용하는 AI 툴을 활용한다면 이와 같이 선을 긋는 것이 어렵지 않겠지만 제3의 AI 도구 활용이 보편화될 수록 이를 정하기 어려울 것"이라고 평했다.

소셜 미디어 별로 기준점이 다르다는 것도 이용자들의 불편을 일으킬 가능성이 높다. 앞서 언급했 듯 유튜브와 틱톡은 모두 C2PA에 가입했으나 메타는 가입하지 않았다. C2PA 창립 멤버인 X 역시 일론 머스크의 인수 후 가입자 목록에서 이름이 제외됐다.

AI 라벨에 알고리즘이 활용된다는 점 또한 문제가 될 수 있다. IT업계 관계자는 "AI 라벨 도입 이전부터 소셜미디어의 규제 알고리즘에 의해 억울하게 계정 정지가 이뤄졌다는 이용자들이 적지 않았다"며 "알고리즘 오류로 일반 이미지나 영상에 AI 라벨이 붙는 현상이 발생한다면 이 또한 적지 않는 논란이 될 것"이라고 말했다.


이원용 글로벌이코노믹 기자 wony92kr@naver.com