금융당국 'AI추천상품 손실시' 가이드라인 만든다

[이데일리 이승현 기자] 금융당국이 금융권에서 광범위하게 사용되는 인공지능(AI) 규제 가이드라인 마련에 나섰다. AI의 추천대로 투자했다가 손실을 봤을 때 책임 문제를 포함해 다양한 기준을 담을 방침이다.

[이데일리 문승용 기자]

19일 금융당국에 따르면, 금융위는 최근 ‘금융분야 AI 활성화를 위한 가이드라인 등 마련’을 주제로 한 연구용역을 발주했다. 금융위는 연구용역 결과를 바탕으로 업계 의견을 수렴한 뒤 연말까지 세부안을 마련하겠다는 계획이다.

현재 금융권에선 대고객 서비스는 물론 상품 심사와 평가, 내부 업무처리 등 사실상 영업활동 전 과정에 AI가 활용되고 있다. 자산관리사 역할을 하는 신한금융투자의 로보어드바이저 플랫폼이 대표적이다. AI가 빅데이터 분석으로 장·단기 자본시장을 예측하고 투자자 성향을 바탕으로 포트폴리오를 추천하는 방식이다.

IBK기업은행의 보이스피싱 차단 앱은 AI가 통화 목소리를 실시간 분석해 ‘보이스피싱’ 확률이 높으면 경고 음성과 진동을 발생시킨다. 카카오뱅크의 경우 AI 기반의 챗봇이 전체 고객 상담의 39%를 맡고 있다.

신용평가와 대출심사, 금융투자를 포함해 대부분 금융업무는 개인정보 등 데이터가 기반이 된다. 이 때문에 AI가 금융권에 적용되면 부가가치가 더 커질 것으로 금융당국은 보고 있다.

그러나 현재는 금융 AI와 관련해 법이나 규정이 없어 개별 금융사가 자체 기준을 적용해 운영하고 있다. AI가 지금은 단순 반복성 업무 처리나 고객상담 자동화, 위험 탐지 등에 활용되지만, 앞으로 상품 심사·추천 등 투자 영역으로 역할이 확대될 수밖에 없는 만큼 관련 기준 마련이 필요해졌다. 실제 금융권은 머지않은 시기 AI가 모바일이나 온라인에서 금융 상품을 소개하고 투자 상담을 하는 프라이빗뱅커(PB)의 기능을 대체할 수 있으리라 보고 있다. 금융당국이 가이드라인을 포함해 제도 마련에 나서게 된 이유다.

금융당국 역시 가이드라인을 통해 ‘설명 가능한’ AI의 실현을 목표로 제시할 계획이다. 설명 가능한 AI는 AI가 자신의 결정에 대해 사람이 이해할 수 있는 형태로 직접 설명할 수 있어야 한다는 개념이다. 금융 AI가 단순히 상품 추천만 하는 게 아니라 추천한 이유도 자세하게 제시해야 한다는 것이다. 가령 주식형 펀드를 추천할 경우 투자성향과 관련 전망 등을 바탕으로 해당 투자자에게 주식형 펀드가 필요한 이유까지 설명할 수 있어야 한다는 것이다. AI가 투자 상담이나 권유를 하게 되면 불완전판매를 포함해 소비자와 금융사 사이의 분쟁 소지가 생길 수밖에 없는 데 이런 상황까지 대비해서다.

또 AI의 조언이 법적 효력이 있는지, 또 어떤 효력을 부여할지 기준도 마련한다. 투자손실을 포함해 소비자 피해가 발생하면 소비자나 운영자인 금융사의 책임소재 등도 어떻게 분담할지도 정리할 계획이다. 금융당국은 금융회사나 핀테크 기업 등이 앞으로 AI 서비스를 개발할 때 참고할 수 있도록 하겠다고 설명했다.

금융당국은 다만 금융 AI 가이드라인에 법적 강제성을 부여할 지 아직 결정하지 않은 상태다. 금융위 관계자는 “법이나 모범규준을 포함해 방식은 결정되지 않았다”라고 말했다.