"진화하는 금융AI 못쫓아가는 감독 시스템…상시 검증 이뤄져야"

[이데일리 이수빈 기자] “AI(인공지능)는 금융사의 핵심 인프라로 자리 잡았다. 그 중 신용평가, 대출심사 등 금융소비자에게 더 큰 영향을 미치는 AI를 적극적으로 관리해야 한다.”

채상미 이화여대 경영학과 교수가 23일 국회의원회관에서 열린 ‘AI 시대, 금융 시스템을 다시 설계하다’ 세민에서 발표하고 있다.(사진=이수빈 기자)

채상미 이화여대 경영학과 교수는 23일 서울 여의도 국회에서 열린 ‘AI 시대, 금융 시스템을 다시 설계하다’ 세미나에서 이 같이 말했다.

금융권의 AI 활용 범위는 빠르게 확대되고 있다. 상담, 민원 대응 같은 고객 서비스 영역부터 신용평가와 대출심사 같은 핵심 의사결정 업무에도 AI가 활용되고 있다. 기술 역시 점점 정교해지며 자금세탁방지(AML)와 이상거래탐지(FDS) 같은 보안 영역까지 AI가 자리 잡았다.

문제는 현재의 감독 체계가 AI 기술 발전 속도를 따라가지 못하고 있다는 것이다. 채 교수는 사전 승인 중심의 감독 방식으로는 끊임없이 업그레이드 되는 AI 모델과 자율적으로 의사결정을 내리는 AI 에이전트를 통제하기 어렵다고 봤다. 이에 사전 승인 대신 운영 과정에서 지속적으로 점검하는 상시 검증 체계로 감독 패러다임을 전환할 것을 제언했다.

금융 AI 규제 강도도 일률적으로 적용해서는 안된다고 봤다. 채 교수는 “모든 금융 AI를 같은 강도로 규제할 것이 아니라, 소비자의 권리와 금융 접근성에 직접 영향을 주는 AI가 무엇인지 명확히 하고 이를 고위험 트랙으로 따로 묶어 더 적극적으로 규제해야 한다”고 말했다. 유럽연합(EU)이 개인 거래에 큰 영향을 주는 AI 시스템을 엄격히 관리하는 것과 같은 맥락이다.

채 교수는 이를 위해 금융회사가 AI 활용 범위와 중요도를 스스로 정의해 감독당국에 보고하고, 감독당국은 이를 관리할 수 있는 가이드라인을 마련해야 한다고 주장했다. 외부 모델 활용 및 클라우드·데이터 공급망 관리도 강화해야 한다고 덧붙였다.

채 교수는 감독 방식에 대한 구체적 제언도 내놨다. 그는 “금융 AI가 실제로 안전하게 작동하고 있다는 검증 가능한 증거를 요청해야 한다”며 금융회사가 데이터를 어디서 확보했는지, 모델 개발 목적은 무엇인지, 학습 과정에서 편향이 발생하지 않았는지, 모의해킹을 통해 어떤 취약점이 발견됐는지 등을 지속적으로 점검해야 한다고 설명했다. 아울러 소비자가 AI의 결정에 이의를 제기할 경우 이를 처리할 수 있는 절차와 정책도 마련해야 한다고 강조했다.

최근 활용이 늘어난 에이전틱 AI에 대해서도 책임 소재를 명확히 하는 제도 정비가 필요하다고 했다. 채 교수는 “AI 에이전트가 권한 범위를 설정하고, 거래 한도와 금액 범위를 정해야 한다”며 “예를 들어 해킹으로 인해 에이전틱 AI가 의도하지 않은 거래를 수행했을 경우, 거래 중단 절차와 손해 배상 책임을 어떻게 정할 것인지에 대한 법적 기준을 마련해야 한다”고 말했다.