“AI 누드화 도구 전면 금지” 공동성명…“설계단계서 원천 차단하라”

[이데일리 김현아 기자] 방송미디어통신심의위원회(방미심위)는 10일 ‘안전한 인터넷의 날’을 맞아 국제인터넷핫라인협회(INHOPE) 등 주요 국제기구와 함께 AI 기반 ‘누드화(Nudify) 도구’의 전면 금지를 촉구하는 글로벌 공동 성명을 발표했다.

이번 공동 성명에는 INHOPE를 비롯해 세이프 온라인(Safe Online), 위프로텍트 글로벌 얼라이언스(WeProtect Global Alliance), 인터넷 감시 재단(IWF), 미국 실종학대아동방지센터(NCMEC), 네덜란드 오프리미츠(Offlimits) 등 온라인 안전 분야 국제기구들이 참여했다. 성명 국문본은 “전 세계 100여 개 단체, 기관 및 개인과 연대”했다고 밝혔다.

성명은 누드화 도구가 비동의 나체 이미지와 학대 이미지를 생성하도록 설계돼 있으며, 아동과 여성을 불균형적으로 표적 삼는다는 점을 문제로 지적했다. 또한 이러한 도구가 성착취와 갈취, 피해를 부채질함에도 “아무런 제재 없이 널리 사용되고 있다”고 경고했다.

공동 성명의 핵심은 ‘세이프티 바이 디자인(Safety-by-Design)’ 원칙의 도입이다. 기업이 기술 개발 단계부터 누드화 기능을 원천 차단하고, 관련 앱과 도구의 개발·배포·사용을 법적으로 전면 금지해야 한다는 요구를 담았다.

개인의 나체 이미지를 생성하는 누드화 도구는 정당한 목적 없이 개인의 존엄성을 심각하게 훼손하는 만큼, 이를 명백한 불법으로 규정해야 한다는 메시지도 각국 정책 입안자와 기업에 전달하겠다고 밝혔다.

방미심위는 “비동의 성적 이미지 제작·유포는 어느 한 국가의 노력만으로는 해결하기 어려운 문제이자 글로벌 범죄”라며 “국제기구와의 유기적인 연대를 통해 AI 기술이 범죄에 악용되지 않도록 선제적으로 대응할 것”이라고 밝혔다.

‘안전한 인터넷의 날’ 기념 글로벌 공동 성명서 전문

안전한 인터넷의 날을 맞아 방송미디어통신심의위원회는 전 세계 100여 개 단체, 기관 및 개인과 연대하여 아동과 여성을 표적 삼아 비동의 나체 이미지 및 학대 이미지를 생성하도록 설계된 기술인 ‘누드화(Nudify)’ 도구에 대한 긴급 조치를 요구합니다.

누드화 도구는 성착취, 갈취, 피해를 부채질함에도 불구하고 아무런 제재 없이 널리 사용되고 있습니다. 우리는 차일드헬프라인인터네셔널(Child Helpline International), 국제인터넷핫라인협회(INHOPE), 인터넷감시재단(Internet Watch Foundation, IWF), 미국 실종학대아동방지센터(National Center for Missing & Exploited Children, NCMEC), 오프리미츠(Offlimits), 세이프 온라인 (Safe Online), 위프로텍트 글로벌 얼라이언스(WeProtect Global Alliance)와 함께 다음을 촉구합니다.

- 누드화 도구가 입히는 회복 불가능한 피해에 대한 전 세계적 인식 제고

- 기술 기업이 설계 단계부터 ‘세이프티 바이 디자인 (Safety-by-design)‘ 원칙을 적용하도록 책임 부과

- 누드화 앱 및 기능의 개발, 배포, 사용에 대한 법적 금지

[영문]

Today, on Safer Internet Day, KCSC stands with over 100 organizations, institutions and individuals globally to demand urgent action against nudifying tools—technology designed to create non-consensual nude and abusive imagery, disproportionately targeting children and women.

These tools fuel sexual exploitation, extortion, and harm, yet remain widely accessible with impunity. Together with Child Helpline International, INHOPE, the Internet Watch Foundation, NCMEC, Offlimits, Safe Online and We Protect Global Alliance, we call for:

- Global recognition of the irreparable harm these tools inflict.

- Accountability for tech companies to implement safety-by-design protections

- Legal bans on development, distribution, and use of nudifying apps and functionalities.