딥페이크 ‘사전 차단’ 기술 나왔다…라바웨이브·KAIST 공동 개발

[이데일리 김현아 기자] 주식회사 라바웨이브가 KAIST 사이버보안연구센터와 함께 딥페이크 생성 자체를 원천적으로 차단하는 사전예방 기술을 세계 최초로 개발했다.

라바웨이브는 KAIST 사이버보안연구센터와 공동 연구를 통해 기존의 사후 탐지 중심 대응을 넘어, 딥페이크 결과물이 애초에 생성되지 않도록 막는 선제적 방어(Proactive Defense) 기술을 확보했다고 밝혔다. 해당 기술은 글로벌 스마트폰 제조사와 소셜미디어 플랫폼, 클라우드 서비스 기업은 물론 디지털 안전을 담당하는 정부·공공기관의 높은 관심을 받고 있다.

최근 생성형 AI 기술의 급속한 발전으로 딥페이크 범죄가 전 세계적으로 확산되고 있지만, 이미 제작·유포된 딥페이크 콘텐츠는 사실상 완전한 삭제가 어렵고 피해 회복에도 장시간이 소요되는 것이 현실이다. 이에 따라 탐지와 사후 대응만으로는 한계가 명확하다는 지적이 이어져 왔다.

이번에 개발된 기술은 생성형 AI 모델에 대한 적대적 공격(Adversarial Attack) 기법을 활용해, 딥페이크를 ‘찾아내는’ 방식이 아니라 ‘만들 수 없게’ 하는 접근법을 채택했다. 원본 이미지에 사람의 눈으로는 인지할 수 없는 수준의 미세한 노이즈를 삽입해, 일반적인 시청 환경에서는 전혀 차이가 없지만 딥페이크 생성 AI에게는 치명적인 혼란 요소로 작용하도록 설계됐다.

이렇게 보호 처리된 이미지를 생성형 AI가 학습하거나 변환하려 할 경우, 결과물은 심각하게 왜곡되거나 콘텐츠로서의 기능을 상실해 딥페이크 제작 자체가 불가능해진다. 업계에서는 딥페이크 범죄를 구조적으로 차단할 수 있는 접근이라는 점에서 기술적 전환점으로 평가하고 있다.

특히 이번 기술은 범용성이 높다는 점이 강점이다. 스마트폰 카메라 애플리케이션, 클라우드 저장 서비스, 소셜미디어 플랫폼 등 이미지가 생성·저장·유통되는 전 과정에 즉시 적용할 수 있어, 보호된 이미지가 무단으로 다운로드되더라도 딥페이크 생성 단계에서부터 차단 효과를 낼 수 있다.

김준엽 라바웨이브 대표는 “딥페이크 범죄는 기술적 대응 없이는 근본적인 예방이 불가능한 전 지구적 사회 문제”라며 “글로벌 플랫폼과 디바이스 제조사들과의 협력을 통해 보다 안전한 디지털 환경을 구축하는 데 기여할 것”이라고 말했다.

KAIST 사이버보안연구센터는 2010년 디도스 사태를 계기로 설립된 국가 사이버안보 핵심 연구기관으로, AI 기반 딥페이크 분석과 대규모 사이버 범죄 탐지 기술을 개발해 온 국내 대표 보안 연구 조직이다.

라바웨이브는 2015년부터 악성 앱 분석, C&C 서버 차단, 불법 영상물 유포 방지, AI 기반 모니터링 시스템 등 분야에서 다수의 특허를 보유한 기업으로, 보이스피싱·몸캠피싱·불법 영상물 대응 등 고도화되는 디지털 범죄 대응 솔루션을 제공하고 있다. 이번 기술 개발을 계기로 딥페이크 대응 패러다임을 ‘사후 수습’에서 ‘사전 예방’으로 전환하는 데 속도를 낸다는 계획이다.