AI로 정교해진 금융사기…금융사도 AI로 맞선다

[이데일리 정민주 기자] 생성형 인공지능(AI)이 금융사기의 수법을 정교하게 만드는 가운데 글로벌 금융회사들이 AI를 활용한 실시간 탐지와 사전 예방에 나서고 있다. 국내 금융회사 역시 기존 이상거래탐지시스템(FDS)을 고도화하고 신원·행동정보를 활용한 다층적 인증체계를 구축하는 등 사후 대응에서 사전 예방 중심으로 전환할 필요가 있다는 지적이 나온다.

오픈AI. (사진=AFP)

11일 하나금융연구소에 따르면 생성형 AI 확산으로 딥페이크 영상과 음성복제, 가짜 뉴스 등을 활용해 유명인이나 금융기관 관계자를 사칭하는 금융사기가 확산하고 있다. 실제 영국에서는 정치인과 영란은행 총재, 언론인 등이 등장하는 것처럼 조작한 콘텐츠를 활용해 허위 AI 투자 플랫폼 가입을 유도하는 사례도 나타났다.

미국에서도 AI를 활용한 사기 피해가 빠르게 늘고 있다. 관련 피해액은 2025년 약 210억달러에서 2027년 최대 400억달러까지 확대될 것으로 전망된다. 미 연방수사국(FBI)은 2025년 관련 신고 2만2000건, 피해액 약 8억9000만달러를 집계했다.

AI는 금융사기 규모도 키우고 있다. KPMG 조사에서는 최근 1년간 사기를 경험한 기업의 81%가 AI 기반 공격을 경험했으며, 이 가운데 72%는 두 차례 이상 공격을 받은 것으로 나타났다. 주요 공격 유형은 AI 생성 이메일·채팅이 60%로 가장 많았고 딥페이크·조작 문서 39%, 경영진 음성복제 24%가 뒤를 이었다.

AI 금융사기에 대한 기업들의 우려가 커지고 있지만 대응체계 구축은 아직 더딘 상황이다. 전체 응답기업의 94%가 향후 AI 기반 사기 위험을 우려한 반면, 종합적인 AI 사기 대응 계획을 구축하고 테스트한 기업은 26%에 그쳤다. AI가 맞춤형 사기 콘텐츠를 저비용으로 대량 생산할 수 있고 공격 방식도 빠르게 바꿀 수 있다는 점에서 기존의 사후 탐지만으로는 대응에 한계가 있다는 분석이다.

이에 글로벌 금융회사들은 AI를 활용해 거래 단계에서부터 사기를 걸러내는 방식으로 대응하고 있다. JP모건은 하루 평균 약 12조달러 규모의 결제거래 데이터를 활용해 AI 기반 위험점수를 산출하고 자금 지급 전에 의심거래를 선별한다. 거래 관계망을 분석해 겉으로는 정상적인 거래처럼 보이는 건에서도 사기 연관성을 찾아내는 방식이다.

마스터카드는 AI 기반 거래위험 평가 솔루션을 통해 고객·가맹점·거래 간 관계를 분석하고 거래 위험을 실시간으로 평가한다. 초기 모델링에서 사기 탐지율이 평균 20% 개선됐으며 일부 사례에서는 최대 300% 향상되고 오탐은 85% 이상 감소했다. 비자도 글로벌 결제망 데이터와 AI 분석을 활용하는 전담조직을 운영하며 조직적인 사기 네트워크를 조기에 탐지·차단하고 있다.

국내 금융회사도 AI 기반 사기 대응 역량을 강화할 필요가 있다는 지적이다. 기존 FDS를 고도화해 단순히 거래 자체의 이상 여부를 판단하는 데 그치지 않고 디지털 신원과 행동패턴, 수취인 정보 등을 종합해 사기에 의해 유도된 거래인지까지 판단해야 한다는 설명이다.

딥페이크와 음성복제 기술 확산에 대응해 일회성 본인확인에서 벗어나 지속적인 신원확인과 행동·생체정보 분석을 결합한 다층적 인증체계를 구축하는 것도 과제로 꼽힌다. 아울러 금융회사와 통신사, 온라인 플랫폼, 수사기관 등이 사기 의심계좌와 위험정보를 신속하게 공유할 수 있는 협력체계도 필요하다.

하나금융연구소 최희재 수석연구원은 “글로벌 금융회사의 사례를 참고해 국내 금융회사도 AI 기반 실시간 위험평가와 사전 경보체계를 확대하는 등 금융사기 대응의 중심을 ‘사후 탐지’에서 ‘사전 예방’으로 옮겨야 한다”고 제언했다.