"선거철 급증" 갈등 부추긴 댓글, 외국발 여론조작?

(AI 생성 이미지)

[이데일리 한광범 기자] 카이스트(KAIST) 연구진이 네이버 뉴스 사용자 중 외국 연계 영향력 활동이 의심되는 계정 2만 4000여개를 확인했다. 연구진은 다만 이들 계정이 특정 정치 진영을 일방적으로 지지하기보다는 한국 사회 내부의 갈등과 대립을 증폭시킨다고 분석했다.

카이스트는 문화기술대학원 이원재 교수, 전산학부 차미영 교수(독일 막스플랑크 연구소 단장 겸임), 오혜연 교수 공동연구팀이 막스플랑크 연구소 토르스텐 홀츠 교수와 국제 공동연구를 통해 온라인 뉴스 댓글에서 외국 연계 영향력 활동으로 의심되는 패턴을 자동으로 탐지하고, 그 판단 근거까지 제시하는 ‘설명 가능한 AI 기술’을 개발했다고 12일 밝혔다.

온라인 플랫폼은 외국 세력이 낮은 비용으로 대규모 이용자에게 접근해 특정 메시지를 반복 확산함으로써 사회적 불신과 정치적 갈등을 확대하는 공작 공간으로 악용되어 왔다. 특히 선거나 외교적 갈등 상황에서 조직적인 영향력 공작이 발생할 경우 온라인 공론장의 신뢰성이 크게 훼손되는 문제가 지적되어 왔다. 기존 탐지 기술은 계정이나 댓글을 정상 혹은 의심 대상으로 구분하는 데 그쳐, 왜 의심 대상인지에 대한 구체적인 근거를 제시하기 어려웠고 장기적인 메시지 전략을 다각도로 분석한 연구도 부족했다.

20년 치 데이터 학습해 ‘맥락·감정’ 계층 분석

연구팀은 이러한 한계를 극복하기 위해 댓글 내용과 이용자의 행동 패턴을 복합적으로 파악하는 설명 가능한 AI 프레임워크를 수립했다. 연구팀은 국가안보전략연구원이 식별한 외국 연계 계정 70개를 시작점으로 삼아, 연관 댓글 작성자 등으로 후보군을 확장해 2006년 4월부터 2025년 3월까지 20년간 네이버 뉴스에 작성된 댓글 약 1억 1,000만 건과 이용자 400만여 명의 데이터를 정밀 분석했다.

개발된 AI 모델은 작성 지역과 비원어민 표현 등 외국 연계 단서 유무를 판별한 뒤, 분노·경멸·혐오나 찬양과 같은 도덕적 감정을 파악하고 해당 감정이 향하는 대상을 단계적으로 분류한다. AI는 판별 결과와 함께 판단의 근거가 된 본문 텍스트 구간을 제시하며, 대형언어모델의 지식을 경량 모델로 옮기는 지식 증류 기법을 적용해 1억 건 이상의 대규모 데이터를 효율적으로 처리해냈다.

분석 결과, 식별된 2만 3,998개의 의심 계정들은 외국이나 우호 세력을 직접 찬양하기보다 한국과 한국 사회를 도덕적으로 비난하는 메시지를 집중적으로 남겼다. 특히 한국 비난 댓글의 평균 ‘좋아요’ 비율은 0.514로 분석된 전략 중 유일하게 ‘좋아요’가 ‘싫어요’보다 많아, 갈등 유발 메시지가 일반 이용자의 호응과 높은 노출도를 얻었던 것으로 확인됐다.

선거 기간 유입 51% 급증…‘한국 비난’ 댓글 호응도 높아

또한 주요 선거 기간에 새로 활동을 시작한 의심 계정 수는 주당 평균 34.19개로 비선거 기간(22.61개)보다 약 51% 급증했다. 이들 계정의 주요 표적 상위 10개 중 7개는 진보와 보수 양 진영의 전·현직 대통령과 대선 후보 등 국내 주요 정치인이었다. 이는 특정 정치 세력을 지원하기 위함이 아니라 정치 전반에 대한 불신을 자극하고 진영 간 대립을 격화시키려는 목적임을 보여준다.

카이스트 연구진 모습. 왼쪽부터 카이스트 김재홍 박사과정, 김현승 석사과정, 전산학부 김지선 박사과정, 전산학부 오혜연 교수, 독일 막스플랑크 토르스텐 홀츠, 카이스트 이원재 교수, 카이스트 차미영 교수. (사진=카이스트)

이원재 교수는 “20년간의 데이터를 분석한 결과, 의심 계정들은 외국을 직접 찬양하기보다 한국과 국내 정치인을 비난하며 갈등을 키우는 패턴을 보였다”며 “선거 등 사회적 갈등이 높아지는 시기에 우선 검토해야 할 메시지를 가려내는 기준이 될 것”이라고 설명했다.

오혜연 교수는 “AI가 댓글의 표면적인 의미를 넘어 갈등을 유발하는 감정과 계정의 조직적인 행동 패턴까지 함께 분석했다”며 “갈수록 교묘해지는 온라인 영향력 활동을 탐지하는 데 활용될 것으로 기대한다”고 말했다.

차미영 교수는 “이번 연구는 데이터 과학을 실제 사회 문제 해결로 연결한 ‘액셔너블 데이터 과학(Actionable Data Science)’의 사례”라며 “디지털 공론장의 투명성과 신뢰를 높이는 실질적인 도구가 되길 기대한다”고 밝혔다.

공동 제1저자인 카이스트 김재홍 박사과정과 김현승 석사과정이 주도한 이번 연구는 컴퓨터 보안 분야 최고 권위 국제 학술대회인 ‘USENIX Security Symposium 2026’에서 오는 8월 13일 발표될 예정이다.