;)
;)
딥페이크 범죄 발생 피해 확산 경고, 피해액만큼 배상금 부과
이미지 확대보기
리나 칸 FTC 위원장은 이날 발표한 성명에서 “AI 툴을 이용해 정교하게 특정 인물 등을 흉내 내는 행위가 광범위하게 확산하고 있고, 이것을 이용한 사기 사건이 급증하고 있다”고 말했다. FTC는 기업이나 정부 기관의 로고 등을 이용해 가짜 이메일을 보내고, 정부 기관 주소를 입력해 가짜 문서를 발송하는 등의 행위를 처벌할 것이라고 밝혔다. FTC는 딥페이크를 통해 발생한 피해 금액을 전액 보상받을 수 있도록 법원에 소송을 제기할 것이라고 강조했다. 딥페이크는 이미지, 목소리, 영상 등을 진짜처럼 합성하는 기술로 이것이 AI와 결합하면 진위를 구별하기가 더욱 어려워진다.
미국의 생성형 AI 관련 기업들은 정치 분야에서 딥페이크 퇴치를 위한 협약을 체결한다. 페이스북을 소유한 메타는 13일 세계적으로 중요한 선거의 해를 맞아 기술기업들이 유권자를 대상으로 한 AI의 기만적인 사용에 맞서는 협약을 체결할 계획이라고 밝혔다. 이 협약에는 메타, 구글, 마이크로소프트(MS), 오픈AI, 어도비, 틱톡 등이 참여한다. 협정 내용은 16일 독일 뮌헨에서 열리는 '뮌헨 보안 콘퍼런스'에서 공개된다.
미 백악관은 지난해 7월 오픈AI·구글·메타 등 7개 주요 AI 기업들로부터 자발적으로 'AI 생성' 워터마크를 부착하겠다는 약속을 받아냈다. 백악관은 지난해 10월에는 행정명령을 통해 기업들이 사용할 워터마크 표준을 개발하라고 미 상무부에 지시했다.
챗GPT를 출시했던 오픈AI는 지난달 15일 정치인이나 정당 등이 선거에 자사 AI 프로그램을 원천적으로 이용하지 못하도록 대책을 마련했다고 밝혔다. 오픈AI는 챗GPT나 자사 이미지 생성 모델인 DALL-E를 활용해 선거 캠페인, 로비, 투표 차단, 가짜 뉴스 등을 확산시키지 못하도록 할 것이라고 강조했다. 오픈AI는 DALL-E 프로그램을 이용한 딥페이크를 막기 위해 올해 초부터 이 프로그램으로 만들어진 이미지에는 워터마크가 자동으로 삽입되도록 할 것이라고 밝혔다.
국기연 글로벌이코노믹 워싱턴 특파원 kuk@g-enews.com
