“야구장 여신 되는 법”…한국 번진 AI 가짜 열풍, 외신도 놀랐다

[이데일리 채나연 기자] 생성형 인공지능(AI)이 빠르게 확산하면서 한국 사회에서 가상과 현실의 경계가 흐려지고 있다는 외신 분석이 나왔다.

인공지능(AI)으로 제작된 야구장 관람객 영상. (사진=뉴시스)

홍콩 매체 사우스차이나모닝포스트(SCMP)는 지난 17일(현지시간) ‘실재감 결핍: 한국은 어떻게 AI에 대한 현실 감각을 잃었나’라는 제목의 기사를 통해 한국 내 AI 오남용 실태를 집중 조명했다.

SCMP는 최근 온라인에서 화제를 모은 이른바 ‘야구장 여신’ 영상을 대표 사례로 꼽았다.

이달 초 SNS와 온라인 커뮤니티 등에선 야구 경기를 관람 중인 여성의 모습이 담긴 영상이 큰 화제를 모았다.

해당 영상에서 흰색 오프숄더 상의에 청바지를 입고 다리를 꼰 채 경기에 몰입하는 여성을 본 국내외 누리꾼들은 “한국의 야구 여신”이라며 열광했다.

하지만 해당 영상은 실제 인물이 아닌 AI로 생성된 가짜 콘텐츠로 드러났다. 영상 속 전광판에는 이미 은퇴한 조인성과 현역 선수 김서현의 이름이 올라와 있었으며 응원 문구 역시 실제 구단 표현과 다르게 적혀 있었다.

이후 온라인에서는 ‘야구장 여신 되는 법’이라는 이름으로 관련 프롬프트를 공유해 자신의 사진을 야구장 관람 장면처럼 합성해 올리는 놀이가 유행했다.

AI로 생성한 가짜 늑구 사진

SCMP는 AI 생성물이 단순한 재미를 넘어 공공 안전에도 영향을 미치고 있다고 지적했다. 대표 사례로 지난 4월 발생한 대전 오월드 늑대 탈출 사건이 언급됐다.

당시 온라인에는 늑대 ‘늑구’가 학교 앞 교차로를 돌아다니는 듯한 사진이 퍼졌지만 이는 한 직장인이 AI로 제작한 허위 이미지로 밝혀졌다.

문제는 대전시 재난 당국이 해당 사진을 실제 상황으로 오인해 주민 대피 공문과 브리핑 자료에까지 활용했다는 점이다. 경찰은 이후 이미지를 제작·유포한 인물을 위계에 의한 공무집행방해 혐의로 검거했다.

전창배 국제인공지능윤리학회 이사장 역시 “한국은 그동안 윤리보다 AI 기술 발전을 지나치게 우선시해 왔다”며 “AI의 유해한 결과는 과거 어떤 기술보다 인간에게 깊은 상처를 남길 수 있다”고 우려했다.

이어 “이제는 정부와 학계, 기업, 시민사회가 함께 AI 활용 범위와 책임에 대한 사회적 합의를 마련해야 할 시점”이라며 “피해를 줄이기 위한 제도와 교육도 함께 갖춰져야 한다”고 강조했다.