‘AI로 제작된 콘텐츠 표시 의무법’ 발의

[이데일리 김현아 기자]

지난해 11월 30일 챗GPT의 등장이후 생성형 인공지능(AI) 출시가 잇따르고 있는 가운데, AI를 이용해 제작한 콘텐츠는 표시를 의무화하는 법안이 발의됐다.

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당)은 인공지능을 이용하여 제작된 콘텐츠라는 사실을 표시하게 하는 「 콘텐츠산업 진흥법 일부개정법률안 」 을 대표 발의했다 .

챗GPT, 미드저니 등의 생성형 AI 기술이 빠른 속도로 발전하면서, 이에 대한 적절한 규제가 필요하다는 주장이 제기된다.

최근 SNS 에서는 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 사진이 화제가 됐지만, 이는 AI를 이용해 만든 허위 이미지로 밝혀졌다 .

지난 13일 트럼프 전 미국 대통령은 자신의 SNS 계정에 CNN 앵커가 바이든 대통령을 비난하는 영상을 올린 것으로 알려졌지만, 역시 AI가 만든 가짜 영상이었다 .

이는 생성형 AI가 만들어내는 이미지 , 영상 , 음성 등이 갈수록 정교해지고 있기 때문이다. 진짜와 가짜를 눈으로 구분하기 어려운 것이다.

이에 이상헌 의원이 발의한 「 콘텐츠산업 진흥법 일부개정법률안 」 은 텍스트 , 이미지 , 음악 등의 콘텐츠가 인공지능 기술을 이용하여 만들어진다면 해당 콘텐 츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하도록 하는 내용을 담았다 .

개정안이 통과되면 사용자들이 진위여부를 알 수 있게 되어 허위 정보로인한 사회적 혼란이 방지될 것으로 보인다 .

이 의원은 “ EU에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며 , 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의돼 있는 상황”이라며, “ 우리나라도 AI 오 · 남용을 막기 위한 관리 방안을 마련하여 규범적 틀을 확립해야 한다”고 입법 취지를 밝혔다 .

법안에는 이상헌 한준호 신정훈 신동근 유정주 박 정 조정훈 양경숙 양정숙 장철민 의원이 서명했다.

법안에선 ‘콘텐츠제작자는 대통령령으로 정하는 인공지능 기술을 이용하여 콘텐츠를 제작한 경우에는 해당 콘텐츠가 인공지능 기술을 이용하여 제작된 콘텐츠라는 사실을 표시하여야 한다’고 돼 있고, 표시의 내용과 방법은 대통령령으로 정하도록 돼 있다 .공포 후 1년이 지난 날부터 시행한다고 돼 있다.