AI윤석열·AI김동연 문제 없을까

[이데일리 김유성 기자] 윤석열 국민의힘 대선 후보에 이어 김동연 전 경제부총리도 자신을 닮은 인공지능(AI) 아바타를 내놓으며 대권에 대한 출사표를 던졌다. 사람이 아닌 AI로 소통하겠다는 점에서 ‘참신하다’라는 반응도 있지만 ‘기술 오용에 따른 부작용’을 우려하는 목소리도 있다.

7일 김 전 부총리는 AI 대변인 ‘에이디(aidy)’와 본인의 닮은꼴 AI 아바타 ‘윈디(windy)’를 공개했다. 김 전 부총리 캠프의 첫 영입 대상으로 이들 AI 아바타를 공개한 것이다.

김 전 부총리는 “AI 대변인이 다소 부족할 수 있지만, 나날이 성장을 거듭할 것”이라면서 “AI 대변인을 1호 인재로 영입하는 일은 국내 최초로 시도되는 선거 콘텐츠”라고 강조했다.

차기 대선 출마를 선언한 김동연 전 경제부총리가 7일 오전 국회 소통관에서 6호 공약을 발표하며 자신의 AI아바타 윈디(winDY)를 소개하고 있다. (사진=국회사진기자단)

전날(6일)에는 윤석열 국민의힘 대선 후보를 본 딴 AI 아바타가 등장했다. 국민의힘 선거대책위원회 출범식 대미를 장식하는 순간에 나왔다.

AI윤석열로 이름붙은 이 아바타는 실제 윤 후보와 흡사한 모습으로 “윤석열 후보와 너무 닮아 놀라셨습니까?”라고 말하는 모습을 보였다.

AI윤석열은 윤 후보의 말투와 외양을 AI가 학습해 생성했다. 윤 후보가 직접 찾아가기 어려운 지역이나 시간대에 유세 차량 스크린에 AI윤석열을 띄우겠다는 게 국민의힘 전략이다.

김 전 부총리도 비슷한 목적에서 AI 대변인과 아바타를 만들었다. 그는 “(AI 대변인은) 유권자나 국민이 어디서나 접할 수 있을 것”이라면서 “여러 다양한 SNS 소통을 통해 만날 수 있다”고 말했다.

각 후보자들은 AI 아바타와의 소통을 내세웠지만, 실제 이들 AI 아바타는 유권자와 대화하기는 쉽지 않을 전망이다. 대화를 하기까지 ‘언어 학습량’이 많지 않아서다. 후보자들이 쓴 원고를 유권자들 앞에서 ‘읽는 수준’이 될 전망이다.

그나마 김 전 부총리가 내놓은 AI 대변인과 아바타는 추후 대화를 나눌 수 있는 챗봇으로 개발될 여지가 있다. 김 전 부총리 측 캠프 관계자는 “AI 대변인 개발을 위해 자연어 처리 기술을 적용할 예정”이라면서 “빠른 시일 내에 대화가 가능한 AI 대변인을 선보이고 싶다”고 말했다.

일각에서는 ‘딥페이크’에 대한 우려를 하고 있다. 딥페이크는 인공지능이 특정 사람의 모습과 목소리를 학습해 또 다른 아바타를 만들어내는 것을 의미한다. 포르노 영상에 일반인 얼굴을 합성하는 등 사생활 침해 범죄에도 많이 쓰인다.

박근혜 정부와 문재인 정부에 걸쳐 방송통신위원회 상임위원(차관급, 2014 ~2019년)을 역임했던 고삼석 동국대 석좌교수는 이데일리와의 통화에서 “딥페이크 사용에 대한 사회적인 합의조차 마련되지 않은 상황에서 유력 대권 후보가 나서 이를 대중적으로 사용한다는 것에 깊은 우려를 표명한다”고 말했다.

딥페이크와 목소리 합성을 통한 ‘가짜 후보자’가 나타날 가능성도 있다. 후보자 캠프가 아닌 익명의 개발자가 후보자들을 본 따 만든 아바타를 내세울 수도 있다.

이것 자체는 불법이 아닐 수 있지만, 언어 학습이 가능한 형태가 된다면 심각한 문제를 일으킬 수 있다. 사용자들이 왜곡된 단어를 학습시킬 수 있기 때문이다. 자칫 후보자들에게 악영향을 줄 수 있다.

지난해 12월 출시된 20대 여성 아바타 챗봇 ‘이루다’도 이 같은 피해를 입었다. 일부 사용자들이 ‘성적 착취’에 가까운 문장과 단어를 이루다에 학습시켰고, 이루다가 사회 통념상 그릇된 말과 단어를 사용하기도 했다. 개발사는 부득이하게 이루다 서비스를 중단시킬 수 밖에 없었다.