대출-신용평가 맡은 AI에 전담 관리인 둔다

금융위 “AI 가이드라인 연내 시행”
심사결과 불만 제기땐 사람이 재심
AI가 수집-사용하는 정보도 점검

앞으로 시중은행이나 네이버 카카오 등의 인공지능(AI) 신용평가 및 대출심사에 불만이 있는 소비자는 사람을 통해 재심사를 받을 수 있게 된다. 성차별 발언 등으로 논란이 된 AI 챗봇 서비스 ‘이루다’ 사태의 재발을 막기 위해 금융사들은 AI에 입력되는 정보를 사람이 주기적으로 점검하고 평가해야 한다.

8일 금융위원회는 이런 내용이 담긴 ‘금융 분야 AI 가이드라인’을 연내 시행한다고 밝혔다. 금융위는 AI 서비스를 운영하기 위해서는 금융사가 ‘AI 윤리 원칙’을 마련하고 AI의 전담 조직을 구성하도록 했다. 또 대출심사나 신용평가 같은 개별 소비자에게 미치는 영향이 큰 서비스는 사람이 개입하는 내부 통제, 승인 절차 등을 마련하고 별도의 책임자까지 지정하도록 했다.

AI가 활용하는 정보도 관리해야 한다. 올해 초 성차별, 장애인 비하 발언으로 논란을 일으킨 ‘이루다’의 경우 편향되고 잘못된 정보를 검증 없이 무분별하게 수집·재생산한 것으로 드러났다. 금융위는 재발을 막기 위해 사람이 AI에 이용되는 정보 출처를 파악하고 품질을 검증하도록 했다. 또 결과가 편향되지 않도록 데이터를 충분히 확보하고 주기적으로 갱신해야 한다.

가이드라인은 AI가 대출 적격자를 부적격자로 분류하는 오류를 막아 AI로 인한 금융 서비스 이용 거절 가능성을 최소화하는 데 중점을 뒀다. 특히 AI가 대출 심사 과정 등에서 성차별을 하지 않도록 금융사가 공정성 기준을 설정하고 평가하게 했다. 2019년 애플이 운영한 AI가 애플카드 발급 심사에서 남성의 카드 한도를 여성보다 10∼20배 높게 책정해 문제가 된 일이 있었다.

금융사들은 이번 가이드라인을 토대로 업권별 실무지침을 올해 3분기(7∼9월)에 내놓을 계획이다. 금융상품을 추천하는 금융연관 서비스를 제공하는 네이버와 카카오 같은 비금융 회사도 이번 가이드라인의 적용 대상이다. 도규상 금융위 부위원장은 이날 “이번 가이드라인을 통해 AI 금융 서비스에 대한 사회적 신뢰를 쌓을 것”이라고 했다.


김형민 기자 kalssam35@donga.com