이상휘 의원, 생성형 AI 결과물 표시 훼손·위변조 금지법 대표발의

국민의힘 이상휘 국회의원(포항 남·울릉)은 12일 생성형 인공지능(AI) 또는 인공지능시스템을 활용해 제작된 결과물의 표시를 훼손하거나 위조·변조하는 행위를 금지하는 내용을 담은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법' 일부개정법률안을 대표 발의했다고 13일 밝혔다.

현행법은 인공지능의 투명성과 신뢰성 확보를 위해 인공지능사업자에게 생성형 AI 또는 인공지능시스템을 이용해 생성한 결과물에 대해 해당 사실을 표시하도록 의무를 부과하고 있다. 이는 AI 기술의 확산에 따른 허위·조작 정보 유통 우려를 최소화하고 이용자의 알 권리를 보장하기 위한 취지다.

그러나 AI 결과물에 부착된 표시를 고의로 훼손하거나 위조·변조하는 행위에 대해서는 별도의 처벌 규정이 없어 제도의 실효성이 떨어진다는 지적이 지속적으로 제기돼 왔다. 이에 따라 인공지능으로 생성된 콘텐츠가 사람의 직접 창작물이나 실제 존재하는 사실인 것처럼 유통될 가능성이 존재해 사회적 혼란과 신뢰 저하 우려가 커지고 있다.

이번 개정안은 이 같은 입법 공백을 보완하기 위해 생성형 인공지능 또는 인공지능시스템을 이용한 결과물의 표시를 훼손·위조·변조하는 행위를 명시적으로 금지하고, 이를 위반할 경우 3천만 원 이하의 과태료를 부과하도록 규정했다.
이상휘 의원은 “생성형 AI 기술이 급속도로 확산되는 상황에서 결과물의 출처를 명확히 하는 것은 사회적 신뢰를 지키기 위한 최소한의 안전장치”라며 “AI 결과물의 투명성을 제도적으로 보완해 국민이 안심할 수 있는 인공지능 생태계를 조성하겠다”고 밝혔다.


조성출 글로벌이코노믹 기자 jsc913@g-enews.com