|
28일 김상희 국회부의장이 방송통신심의위원회에서 제출받은 자료에 따르면 2020년 6월부터 단속이 시작된 ‘딥페이크 성적 허위영상’ 차단·삭제 건수는 12월까지 548건에서 올해 1월부터 9월까지 1408건으로 2.5배 이상 증가했다.
딥페이크(Deepfake)란 심층학습(Deep Learning)과 가짜(Fake)의 합성어로 AI를 이용해 가짜 영상을 만들어내는 기술이다.
피해자의 사진만 가지고 AI로 이질감 없이 영상을 만들기 때문에 확실히 단속하지 못한다면 다크웹 등으로 퍼져 나가 ‘제2의 N번방 사건’이 될 가능성도 크다고 김 부의장은 지적했다.
AI를 포함한 지능정보기술을 악용한 범죄의 피해를 막기 위해서는 기술에 대한 규제가 필요하다는 주장도 제기했다.
이어 “미래산업 사회에 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다”며 “AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련해 더이상 AI 범죄로 고통받는 국민이 없도록 노력하겠다”고 강조했다.