은행권 흔드는 금융비서의 ‘입’

AI가 추천한 상품
이유는 알 수 없어요
그래도 책임은 져야죠

#1. 안정형 투자자인 60대 고객이 인공지능(AI) 금융비서에게 ‘예금보다 수익률이 조금 높은 상품’을 요청했는데 원금 손실 위험이 큰 파생상품을 추천받았다. 손실이 나면 은행은 “AI가 추천했다”고 책임을 피할 수 있을까.

#2. 고객이 주택담보대출 한도를 묻자 AI가 실제보다 높은 금액을 안내했다. 이를 믿고 집부터 계약했다가 실제 대출액이 크게 줄어 계약금을 날린다면 책임은 누구에게 있을까.


#3. AI가 투자상품의 예상 수익률은 자세히 설명하면서 원금 손실 가능성과 중도환매 수수료는 빼먹었다. 직원이 그랬다면 불완전판매가 될 수 있다. AI가 설명했다면 다를까.

●금융AI 실수 땐 소비자 직접 피해

은행들이 인공지능(AI)을 활용한 ‘금융비서’ 개발에 속도를 내면서 이런 가상 시나리오를 하나씩 따져보고 있다. AI가 고객에게 잘못된 상품을 추천하거나 대출 조건을 틀리게 안내해 피해가 생기더라도 ‘AI가 판단했다’는 이유로 금융회사가 책임을 피할 수 없기 때문이다.



25일 금융권에 따르면 A은행은 최근 통합 애플리케이션(앱)을 개발하면서 ‘AI 리스크’를 주요 과제로 두고 대응 방안을 검토하고 있다. 고민은 어디까지 AI에게 맡기고, 어디부터 사람의 확인을 거치게 할지다. AI 답변을 어떤 기준으로 검증할지, 위험한 답변을 어디까지 막을지, 예상하지 못한 답변이 나오면 어떤 순간 서비스를 중단시킬지도 정해야 한다.

금융위원회가 지난 6월 내놓은 ‘금융분야 AI 가이드라인’은 AI를 활용하더라도 금융소비자보호법상 설명의무 등을 지켜야 한다고 규정하고 있다. 이효섭 자본시장연구원 금융산업실장은 “AI가 대출이나 상품을 권유하면서 위험을 제대로 알리지 않았다면 설명의무 문제가 생긴다”고 말했다.

그래서 은행들은 아직 AI에 ‘최종 판단’을 쉽게 맡기지 못하고 있다. 특히 금리와 한도 등 숫자 하나가 틀려도 문제가 커지는 업무는 AI 판단에 맡기지 않는다는 방침이다.

●“AI 리스크 대응 체계 마련해야”

은행들이 가장 고민하는 것은 ‘사고가 났을 때 누가 책임지느냐’다. AI가 잘못된 상품을 추천했을 때 소비자보호 담당 임원과 영업 담당 임원 가운데 누가 책임질지, IT 시스템 문제인지 AI 모델 자체의 오류인지에 따라 책임을 어떻게 나눌지도 정해야 한다.

한 은행권 관계자는 “AI를 쓰지 않을 수는 없지만 금융에서는 답변 하나가 고객 자산과 직결된다”며 “AI가 어디까지 판단하고 어디서 사람에게 넘겨야 하는지 통제선을 정하는 게 가장 큰 고민”이라고 말했다. 이 실장은 “현재 금융 법체계는 사람의 판단을 전제로 만들어졌다”며 “AI 활용에 맞는 규율 체계도 점진적으로 마련할 필요가 있다”고 말했다.

박소연·서유미 기자