工商社论》比取代人类更加严重的AI风险

谷歌等少数几家科技大厂为其他企业提供便捷的AI服务，但这也是AI风险的放大器。图／美联社

随着演算能力的推进，人工智慧（AI）的各种运用也有突飞猛进的发展。虽然也有人担心其对社会带来的冲击，特别是取代人类的工作。事实上以金融领域来讲，AI对金融稳定的冲击，远比取代人类更值得我们重视。

过去十几年来，AI与机器学习技术广泛被运到反洗钱与防诈，大幅提高工作效率。近来由于算力的飞跃成长、计算成本的降低以及相关技术的发展，使得运用层面更广。根据国际货币基金（IMF）今年的报告指出，美国股市运用演算法交易的比例快速上升到7成以上，期货市场也过半。此外，理财机器人所管理的投资金额也爆炸式成长，近期可能就会超过2兆美元。因此AI对金融稳定的影响更不容忽视。

基本上来说，一个稳健的市场应该同时存在有人看多，有人看空，有人买进，有人卖出。但由于使用AI作为投资决策工具时，许多演算法使用相同的模式来训练，造成大家同步买同步卖的「羊群效应」。再加上目前高频交易的盛行，将推升市场「闪崩」的风险。这也是为什么美国证期会（SEC）主席詹斯勒（Gary Gensler）多次阐述这个风险，并认为AI可能造成下一场的大型的系统性金融风险。

美财政部长叶伦也指出，AI工具往往非常技术性与不透明，不容易解释，也不容易监测其缺点。假如金融业或监理机关对AI不够了解，那就很可能造成偏差或不正确的结果。而且，AI依赖大量的外部资料库，或是第三方供应商，也加深个资保护与资安风险的疑虑。

IMF在今年邀集金融从业人员与学界专家，共同讨论使用生成式AI将伴随而来哪些风险。会议中先讨论出会有哪些风险，再请与会专家进行投票。得票最多的风险项目依序是：羊群效应与市场集中度、供应商集中度、市场脆弱性与操控、资安风险，最后才是取代人类工作。由得票结果也可知，与会专家对前面三项与金融稳定相关的忧虑，远比取代人类工作还担心。

虽然AI大幅增强了资料的处理和生成能力，但其产出的品质与正确性还是高度依赖所喂食的资料品质。目前AI能够处理的资讯除了数据外，非结构化资料如文字、电脑代码、语音和图像也可处理。但由于其基础模型的训练方式，AI更容易「学习」并持续保留其训练资料中固有的偏见或错误。另一项挑战则涉及资料隐私，特别是在使用资料库时是否尊重使用者输入的资料隐私（例如，这些资料可能包含公司专有的机密资讯），以及是否存在资料泄露的风险。

一般企业不会自己开发AI运用技术，而是仰赖亚马逊、微软与谷歌等几家科技大厂。这些科技大厂为其他企业提供便捷的AI服务，加速了AI技术渗透到各企业。但这也是AI风险的放大器，使得AI的风险扩大到系统层面，甚至对金融稳定性造成影响。因为这几家AI供应商所提供的决策模式，在不同金融机构中被广泛应用到各种流程。如果大多数金融机构使用相同或相似的基础模型时，那么受AI偏见的冲击将更巨大，对供应商依赖的风险也越大。过度依赖少数的AI供应商，可能使金融系统的运营基础变得更加脆弱。甚至相关风险将从个别金融机构的问题，扩大为系统性问题。

AI还可能被恶意利用，用于网络攻击、虚假信息、操纵市场、使用深度伪造技术以破坏对金融机构的信心等。因此近期IMF与主要国家央行才会深入探讨此议题。

但即将执政的美国川普阵营已扬言，将撤销现任总统拜登签署的「安全、可靠且值得信赖的开发及使用AI」的行政命令，因为这妨害AI的发展。川普内阁对于加密货币也将大幅松绑，这在在都与SEC主席詹斯勒的观点相左。因此之前担任麻省理工学院（MIT）教授的他，已经宣布将在川普就任总统那一天离职，虽然他的法定任期到2026年。美国股市已有过热之虞，不管是本益比，或是巴菲特指数都创历史新高，特别是所谓的AI概念股。未来股市若有风吹草动，在AI的放大效果下，值得我们关注。

水能载舟也能覆舟，在善用AI带来的机会的同时，也应随时保持警惕，避开可能带来的金融风险，不可掉以轻心。