美国金融当局当地时间14日历史上首次把人工智能规定为金融领域的脆弱因素。这是在警告，与网络攻击、气候变化等一样，人工智能也会对目前的金融体系和消费者造成相当大的威胁。
最近，美国证券交易委员会全面调查华尔街大型金融公司使用人工智能的情况等，美国金融圈制定人工智能限制的工作正在加快速度。预计，这将给尚未绘制人工智能限制基础的韩国金融圈带来相当大的启示。
● “很难知道人工智能得出结果的原理”
美国财政部长耶伦当天主持金融稳定监督委员会会议，并公布了指定包括人工智能在内的14个金融威胁的年度报告。耶伦表示：“今年委员会首次将金融服务中人工智能的使用指定为金融体系的‘新出现的弱点’。”
金融稳定监督委员会是为了防止2008年世界金融危机等大型危机而于2010年成立的机构。由财政部长担任主席，美联储、证券交易委员会、联邦存款保险公司等主要金融部门负责人都作为委员参与其中。
此次报告把人工智能定性为主要危险的原因，是人工智能特有的“说明可能性不足”。人工智能之前的电算体系从“输入”到“输出”的路径是可预测的，而且非常透明。相反，自主学习的人工智能为什么会出现这样的结果，其过程就像“黑匣子”，无法知道。因此，人工智能体系有可能产生偏向或不正确的结果并隐瞒真相，这种忧虑正在高涨。
人工智能使用的数据的可信度争议也接连不断。金融稳定监督委员会指出：“人工智能以来源不明或未整理的庞大资料为依据得出结果，但无法知道这是否具有偏向性等。”人工智能向顾客推荐特定商品时，如果其依据的数据和推荐理由等存在缺陷，最终会造成消费者的损失。
此外，贷款批准中使用的人工智能以对特定人种的偏向性等为基础，有可能对部分顾客造成种族歧视的结果。最近参加“2023东亚新中心论坛”的世界级未来学者、未来研究所主任杰森·辛克表示：“以庞大的数据为基础的人工智能结果可能会单调、被歪曲。垄断性情报和机密有可能会泄露，这也是危险因素。”
金融稳定监督委员会委员、证券交易委员会主席加里·根斯勒在接受英国《金融时报》采访时警告说，如果当局不迅速介入控制人工智能危险，在10年内引发金融危机是“几乎不可避免的”。
● 教皇：“利用人工智能的自律武器体系威胁着人类的生存”
韩国也有人担心金融圈缓慢的人工智能限制速度。虽然大部分金融公司都推出了利用人工智能的服务，但是应对人工智能金融利用危险性的情况还没有突出。KB国民银行金融人工智能中心负责人吴顺英（音）也表示：“生成型人工智能的性能与人无法区分，伦理和法律问题只能成为争论焦点。”
教皇方济格也在当天迎来“世界和平日”之际，警告了利用无人机等人工智能的自律武器体系的发展、介入选举、监视社会崛起的可能性等。教皇表示：“人工智能有威胁人类生存、危及共同体的‘技术独裁’的危险。应该通过限制人工智能开发和使用的具有约束力的国际条约。”
纽约=常驻记者 金贤洙、金宝罗 kimhs@donga.com · purple@donga.com
About Dong-A Ilbo