盛治仁／AI雙面刃 須確保不威脅人類生存

《连结：从石器时代到AI纪元》书封。 图／天下文化提供

盛治仁

这本书的主题在探讨AI对于人类未来的影响。作者很巧妙地聚焦在「资讯」，也就是连结人类社会的黏着剂。从史前时代到AI时代，资讯的传播形式不断改变，也不断地冲击当时的社会结构。

印刷术带来知识的传播和累积，同时也带来猎巫和宗教战争。报纸和广播既有利于民主运作，也同时成为独裁者的统治工具。从历史看未来，哈拉瑞的核心论述是，资讯的本质不一定是好或坏的，而是创造了新的现实，结果是正面或负面，端看如何运用。其中的重要决定因素在于有无强大的自我修正机制，并以此架构来探讨AI的潜在影响。

AI有多聪明？在OpenAI的开发过程中，曾经给过它一个验证码的挑战。大家应该都常碰到，就是要你肉眼辨识一串扭曲的文字和数字以确定你是不是人类，因为电脑看不出来；结果GPT-4就跟相关人员说他只是视力有问题所以看不清，并非机器人，这个说法骗过了负责的人员，给了它验证码，成功闯关。

哈拉瑞接着建构了一个很值得深思的例子。有位国家领导人在凌晨四点被负责安全监控的AI叫醒，通知他有很确凿的资讯显示，国防部长几小时后要发动政变暗杀他。就算国防部长是领导人最信任的伙伴，他该怎么做？相信演算法，除掉部长？还是相信部长，让自己冒险？

现在社群网路的演算法已经发现，愈是负面的资讯愈能增加黏着度和动员力，所以尽量喂给用户负面讯息，加深了社会对立。未来当AI更全面渗入，甚至控制了资讯和网路后，我们可以想像无数种对人类造成各种影响的场景。

因此AI伦理是非常重要的，在发展AI时就应该要谨慎地逐步向前；但在开发者的心目中，很可能将这些伦理考量视为科技进步发展的障碍。

这里就有一个道德矛盾存在。长期来看AI一定会充分发挥潜力；短期来看现在就能突破的个人或公司立刻功成名就，所以没有耐心和自制力来按部就班发展。因此促进AI快速发展的天才，既有可能是促进科技发展、改善人类生活的大功臣，也有可能是造成人类社会崩解和毁灭的罪人，端看AI能否在受控的前提下稳健前进，还是在完全自由竞争的环境下各显神通。

过去经济学主张自由竞争会造就最有效率的市场，给社会最好的经济发展结果。具体实践后发现，完全自由竞争造成贫富差距、资本家剥削，以及环境被破坏和污染等外部成本，需要政府立法介入来解决这些问题。AI的发展亦是如此。

人类聪明到制造出这么多高科技产品，也同时愚笨到破坏自然生态至危及自身生存的地步。人类集体必须要能控制AI的发展步调和应用范围，并透过监管让其能够自我修正，确保其能力符合人类利益而不会造成生存威胁。资讯和AI都是双面刃，个别的大跃进成功，反而可能造成集体社会的崩坏，值得大家重视。（作者为云品国际董事长）