MS 부회장 "딥페이크, AI 가장 큰 리스크…규제 서둘러야"

[이데일리 박종화 기자] 브래드 스미스 마이크로소프트(MS) 부회장 겸 총괄 사장이 딥페이크, 즉 인공지능(AI)을 이용해 만든 진짜 같은 이미지가 AI에 관한 가장 큰 리스크라고 경고했다. 그는 딥페이크를 이용한 사기 등 범죄를 막기 위해 국가와 기업이 규제를 서둘러야 한다고 촉구했다.

브래드 스미스 마이크로소프트(MS) 부회장 겸 총괄 사장. (사진=AFP)

25일(현지시간) 로이터통신 등에 따르면 스미스 부회장은 이날 미국 워싱턴DC에서 ‘AI 규제’를 주제로 열린 강연에서 “우리는 딥페이크에 관한 문제를 해결해야 한다”며 “AI를 사용해 사람들을 속이기 위해 적법한 콘텐츠를 변조하지 못하도록 보호 조치를 취해야 한다”고 말했다.

생성형 AI(이용자 요구에 맞춰 이미지 등 콘텐츠를 생성하는 AI)가 고도화되면서 진짜와 구별하기 힘든 허위 이미지·영상을 AI가 만들고 있기 때문이다. 그는 “이미 러시아나 중국·이란 정부가 수행하고 있는 사이버 영향력 공작(자국에 유리한 정책이 수립되도록 외국 정부의 여론 등을 유도하는 작전)에 대응해야 한다”며 딥페이크가 안보를 위협하는 수단으로 쓰일 가능성도 제기했다.

스미스 부회장은 “국가가 더 빨리 움직여야 한다”며 AI 규제를 서두를 것을 촉구했다. 그는 규제 방안으로 기업이 AI를 개발할 때 정부에 통지하고 개발 결과와 모니터링 내역 등을 정부와 공유해야 한다고 제안했다. 또한 국가 안보나 국가 안보와 관련된 AI는 정부 기관 등의 허가를 받은 회사가 개발할 수 있도록 해야 한다고 제안했다. 그는 이날 자신의 블로그를 통해서도 딥페이크를 이용한 사기 등을 막기 위해 AI가 생성한 콘텐츠를 실재와 구별할 수 있는 표식을 붙이고 AI로 인한 피해엔 개발사가 책임이 져야 한다고 강조했다.

최근 AI 산업 선도기업들은 AI 규제를 서둘러야 한다고 자청하고 있다. MS와 투자 제휴 관계를 맺고 있는 오픈AI의 샘 올트먼 CEO는 지난주 미 의회에 출석해 AI의 안전성을 검증·통제할 국제적 기관 설립이 필요하다고 강조한 바 있다. 이를 두고 선도업체가 후발주자를 따돌리기 위해 규제 장벽을 만들고 있다는 평가도 나오고 있다.