이상휘 의원 “AI 악용 가짜뉴스 ‘디지털 괴벨스’ 될 수 있어...정부 대책 마련해야”

[이데일리 윤정훈 기자]이상휘 국민의힘 의원이 13일 세종시 정부세종청사에서 열린 국회 과학기술정보방송통신위원회(과방위) 국정감사에 AI 기술을 악용한 가짜뉴스가 ‘디지털 괴벨스’가 될 수 있다며 정부의 강력한 대책 마련을 촉구했다.

배경훈 부총리 겸 과학기술정보통신부 장관이 13일 정부세종청사에서 열린 국회 과학기술정보방송통신위원회의 과학기술정보통신부에 대한 국정감사에서 업무보고를 하고 있다.(사진=연합뉴스)

이 의원은 “AI가 경제, 사회, 문화를 넘어 정치적 영역에 깊숙이 개입하고 있다”며 “이로 인해 얼마나 여론이 호도되고 왜곡되고 조작될 수 있는지 아냐”고 지적했다.

이 의원은 AI를 활용한 가짜뉴스 제작의 심각성을 보여주기 위해 박장범 KBS 사장을 모델로 한 가짜뉴스 영상을 국감장에서 직접 시연했다.

이 의원은 “박장범 사장은 통합징수를 강하게 주장했던 분이기 때문에 좀 더 임팩트를 주기 위해 사용했다”며 “음성파일, 동영상, 사진만 있으면 몇 분 안에 금방 만들어낼 수가 있다. 굉장히 무서운 일”이라고 했다.

이어 “지난달 14일 국회 법제사법위원회에서는 조희대 대법원장, 한덕수 전 총리의 비밀 회동 의혹이 제기됐다”며 “녹취한 음성이 AI(로 만들어진 가짜라는 의혹에 대해) 지금 조사가 이뤄지고 있다”고 했다.

이 의원은 이러한 기술이 진짜와 가짜를 구별하기 어렵게 만들어 정치 문화를 혼란에 빠뜨릴 수 있다고 경고했다. 이 의원은 배 부총리에게 “역사에 기록될 수 있다는 점을 명백히 인식하고 정책적 보완을 해달라”고 주문했다.

배경훈 부총리는 AI 오남용 및 악용에 대한 방지책 마련의 필요성에 충분히 공감한다고 답했다.

배 부총리는 “AI 기본법에 AI 안전과 신뢰 관련 부분을 담기 위한 노력이 필요하다”고 언급하며, 현재 AI 안전연구소에서 딥페이크 방지 기술에 대한 연구를 진행 중이라고 밝혔다.

배 부총리는 가짜뉴스를 방지하기 위한 기술적 장치를 마련하기 위해서라도 AI 기술 자체의 발전이 필요하다고 강조했다. 한국의 경우 언어 이해 모델(LLM) 위주로 발전해 왔고, 멀티모달 AI 기술은 글로벌 수준과 격차가 크다는 점을 설명하며 기술 발전과 규제적 노력이 동시에 필요하다는 점도 말했다.

이 의원은 질의에 앞서 최근 김건희 특검(민중기 특별검사팀) 수사 과정에서 사망한 양평군청 공무원을 추모하기도 했다. 이 의원은 “민 특검의 강압수사로 안타깝게 생을 마친 정희철 단월면장의 명복을 빈다”며 “국가 권력에 의한 제도적 폭력이었다”며 “강압과 과잉(수사), 인권침해로 나타났다”고 말했다.