[뉴스+]"쉿! 영업 비밀이에요"…크라켄 기술 공개 꺼리는 이유는

[이데일리 이후섭 기자] 이 기사는 이데일리 홈페이지에서 하루 먼저 볼 수 있는 이뉴스플러스 기사입니다.

[그래픽 = 이데일리 김일환 기자]

“`크라켄`의 기술적인 부분에 대해서는 공개하지 않기로 했다.”

최근 국민의힘이 인터넷 댓글조작을 막아낼 프로그램 크라켄을 공개한 가운데, 디지털정당위원장을 맡고 있는 이영 의원은 이데일리와의 전화통화에서 `전략 노출`을 이유로 크라켄에 적용된 기술에 대해서는 자세히 공개할 수 없다고 강조했다. 회사의 영업 기밀을 노출할 수 없는 것과 마찬가지라는 것이다.

이준석 국민의힘 대표(왼쪽)와 이영 디지털소통위원장이 지난 14일 오후 국회 의원회관에서 인터넷 댓글조작을 막아낼 `크라켄` 프로그램을 공개하고 있다.(사진=연합뉴스)

기계적인 댓글·좋아요 잡는다…“제2의 킹크랩 우려는 없어”

크라켄은 주요 키워드와 관련된 기사와 댓글 정보를 크롤링(웹상의 각종 정보를 자동화된 방법으로 수집해 분류하는 기술)한 후, 인공지능(AI) 기반으로 이상행위를 자동 분석해 여론조작으로 의심되는 댓글과 IP를 수사기관에 신고하는 시스템이다. 과거 드루킹 인터넷 여론조작 당시 활용된 프로그램 이름이 `킹크랩`인 것에 착안해 킹크랩의 천적인 전설 속 대왕문어 크라겐에서 이름을 따왔다.

크라켄은 디지털정당위원회 내 민간 위원으로 구성된 9명의 사이버보안팀 주도 하에 개발됐다. 이 의원은 “특정 기업체에 소속된 전문가는 아니고, 팀에는 학생 뿐만 아니라 화이트해커도 있다”며 “기계적으로 특정 IP에서 동시간대 50~60개의 접속이 들어오거나 `좋아요`를 마구 눌러 특정 기사의 노출 순위를 올린다던지 하는 사람이 할 수 없는 행위들을 잡아내겠다는 것”이라고 설명했다.

크라켄이 제2의 킹크랩이 될 우려에 대해서는 일축했다. 이영 의원실 관계자는 “일반적으로 댓글을 다는 것은 상관없으나, 조직적으로 여러 사이트에서 동일한 내용의 댓글을 다는 것을 서치하는 프로그램이라 언론을 통제하는 내용은 아니다”라며 “이상행위만 탐지하기에 여론조작에 쓰일 가능성은 없다”고 강조했다.

AI 이상행위 탐지 우회 가능성도…“성능은 아무도 몰라”

보안 업계에서는 크라켄의 기술을 공개하지 않는 배경에 대해 AI 이상행위 탐지를 우회하는 방안을 염려하기 때문으로 보고 있다. 이상행위를 탐지하는 방법에는 정상적인 키워드 범주를 설정한 후 이를 벗어나는 행태를 학습시켜 탐지하는 방법과 이상행위에 대한 부분을 미리 정하는 방법 2가지가 있다. 국민의힘 댓글을 갑자기 많이 쓰거나 혐오 표현이 일정 수준 이상 올라오면 이상행위로 간주하는 것으로, 크라켄에는 이 2가지 방법이 혼용됐을 수 있다.

이렇게 이상행위로 분류된 정보에 대해 빅데이터 기술 기반의 상호 연관 분석, 관계적 연관 분석 등의 상세 분석을 거쳐 감시인이 최종적으로 여론조작 의심 댓글 여부를 판별해내는 것으로 추정된다.

문제는 이상행위 분류 과정에서 AI가 학습하지 못한 데이터로 올라올 경우 인지하지 못하는 허점이 생길 수 있다. 한 보안업계 관계자는 “키워드 연관 분석을 우회하기 위해 일부 키워드를 일부러 노출시키고, 다른 표현을 사용하거나 다른 계정을 이용하는 등 데이터를 충분히 조작할 수 있다”며 “크롤링의 대상이 중요한데, 크라켄이 얼마나 많은 포털과 커뮤니티 등에서 수집한 자료를 가지고 학습했느냐가 관건일 것”이라고 판단했다.

다른 보안업계 관계자는 “크라켄의 성능에 대해서는 검증이 안돼 얼마나 잘 작동할지는 아무도 모른다”며 “국민의힘 입장에서는 `우리가 다 보고 있으니 함부로 하지 말아라`라고 엄포를 놓는 의도도 작용했을 것”이라고 봤다.

이에 대해 이영 의원은 “상용 제품이 아니고 우리가 내부적으로 사용하는 데만 문제 없으면 되기에 외부 인증을 받을 필요는 없다”며 “내부적으로 검증했는데, 문제없이 작동했다”고 강조했다.

선관위도 시스템 개발 중…허위사실 공표, 후보자 비방 탐지

중앙선거관리위원회도 크라켄과 비슷한 프로그램인 `지능형 사이버선거범죄 대응 시스템`을 개발 중이다. 크라켄은 여론조작 의심행위를 탐지하는 것이라면, 선관위 시스템은 AI 등 자동화 기술을 이용해 허위사실 공표, 후보자 비방 등이 담긴 댓글을 걸러내 삭제를 요청하고 삭제 여부를 관리하는 시스템이다.

선관위 관계자는 “시스템이 온라인 게시물을 모니터링해서 내용에 허위사실 공표, 후보자 비방 등이 포함된 글을 걸러내면 최종적으로 우리가 선거법 위반 여부를 판단한다”며 “정확한 시점은 정해지지 않았지만 내년 대선에 사용될 수 있도록 서둘러 개발을 완료할 것”이라고 말했다.