經濟選書／從AI霸主 看科技引發的副作用

《AI霸主》书封。 天下文化／提供

奥特曼已经逐渐适应OpenAI 与微软的新合作方向，这也是更企业导向的经营策略；但与此同时，哈萨比斯仍在思考如何应用人工智慧解开现实世界的谜团。他说他是DeepMind内部唯一在做这件事的人，每天从深夜到凌晨在家用电脑研究量子力学。

「这就是我在非常有限的空闲时间所做的事情。」他称之为「业余爱好」。接着，他补充，当DeepMind接近实现通用人工智慧时，就会开始进行必要的物理学实验，以解开宇宙谜团。曾经驱使哈萨比斯决心开发通用人工智慧的个人抱负变成深夜消遣；白天，他忙着管理Google所有人工智慧业务，他的管辖范围从原本大约400人的人工智慧研究人员，扩大到超过5,000人。

「你知道，随着使命与技术的发展，情况会不断变化。」哈萨比斯表示：「我们必须持续修正合适的治理结构，我认为我们现在的结构非常好。」

哈萨比斯没有因为无法成立监督他工作的委员会及董事会而感到烦恼。「我们转而成立许多内部委员会。」他说，他指的是由Google高层组成的各种内部「审核机构」。「我想，十年前我们第一次考虑这个问题时，我们的想法可能有些过度理想化。」

尽管哈萨比斯与奥特曼基于利他主义意图，尽力与商业影响保持距离，但是现在这两人实际上掌控全球规模最大的两家公司。奥特曼开始主导微软某些重要的研究计划，如果他想要的话，未来有机会坐上微软执行长大位。人们对于哈萨比斯也抱持相同的看法。某些Google过去与现在的员工揣测，未来他或许会取代皮蔡，成为字母公司执行长。

「哈萨比斯在伦敦主导Google最重要的研究计划。我认为事前没有人想到会是这样的结果。」某位前Google高层指出：「这可能一直都是他的计划。」

「未来几年的赢家不会是研究实验室。」前OpenAI科学家表示：「而是制造产品的企业，因为人工智慧不再只是研究而已。」

尼克．伯斯特隆姆的回纹针故事，也就是某个超级人工智慧将全世界所有资源全部转换成小金属物件，最终毁灭人类的景象。听起来像是科幻小说，但是从许多方面来说，它就是矽谷自身的寓言。

过去20年来，有几家公司已经发展成为产业巨头，主要原因是他们在追求目标时极度专注，甚至几乎到了病态的地步。它们摧毁小型竞争对手，扩大市占率。有些科技公司是使用「北极星」来描述公司的目标，而不是不断调整策略的「适性函数」。

多年来脸书的北极星是尽可能增加每日活跃使用者人数，祖克柏与他的管理团队都是依据这个指标做出关键决策。但是持续追求成长的后果，就是引发一连串社会问题，从Instagram平台加剧青少年的身体形象焦虑，到加速脸书使用者的政治两极化。

当科技专家努力想像超级智慧失控时会做出什么事情，他们其实是看到自己在这个世界的影子。这个世界允许企业发展成不可阻挡的全球性垄断势力。

近期历史上最具变革性的科技都是由少数人开发的，这些人对于科技在现实世界中引发的副作用充耳不闻，沉溺于取得巨大成就的欲望。真正的危险并非来自于人工智慧本身，而是来自于掌控它的人类任性妄为。（摘自《AI霸主》，天下文化出版）