大型科技公司对缺陷AI痴迷，如何驯服硅谷？

因为生成式人工智能，硅谷是否处于道德衰退的境地？纽约大学心理学和神经科学荣誉退休教授加里·马库斯（Gary Marcus）这么认为，但他不相信这是一个新现象。

马库斯在其新书——驯服硅谷：我们怎样确保人工智能为我们服务——里引用了与早期 Facebook 投资者罗杰·麦克纳米（Roger McNamee）的往来通信，称 2008 年美国金融危机促使硅谷转向价值提取，并将初创公司的估值置于实际利润或可持续商业模式之上。硅谷的这种短期观念已经渗透进我们如今所看到的生成式人工智能里，由于假设的概念和通用人工智能（AGI）的梦想，人工智能的风险被认为是值得的，但迄今为止，任何人工智能公司都尚未公开开发出 AGI。

但马库斯对于生成式人工智能的担忧可不只这些。这更像是一个广泛而全面的警告，提醒我们，如果不尽快做出重大改变，人工智能可能会极大地破坏我们的数字和现实生活。

马库斯列举了来自世界各地的众多实例，解释道我们现今所拥有的生成式人工智能技术至少带来了十几种直接的威胁，主要是因为美国几乎没有监管，而且这些工具在设计上存在缺陷。它们也是免费或廉价的，并且广泛可用。

政治虚假信息、市场操纵、意外的错误信息、诽谤、未经同意的深度伪造、犯罪增加、网络安全威胁、生物武器和歧视只是马库斯书中详细阐述的众多威胁中的一部分。他把焦点放在我们围绕生成式人工智能一直存在的社会焦虑上，揭露了大型科技公司和反监管情绪的黑暗面，并为监管机构和普通公民制定了行动计划。

当马库斯批评 OpenAI、谷歌和 Meta 时，他在《驯服硅谷》一书中写道，其对苹果的态度明显有所不同，称苹果“不像其他公司那样偏离正轨那么远”。他认为，苹果更多是在销售“有吸引力的生产力工具”，而非个人信息，这与Facebook 举报人弗朗西斯·豪根的观点一致，即苹果没有在其商业策略上欺骗公众的动机。

在接受 PCMag 的书面采访时，马库斯直言不讳地分享了他对大型科技公司和生成式人工智能崛起的立场。为了清晰起见，本次采访经过了少量精简。

PCMag：您之前写过一本关于人工智能的书，《重新启动人工智能》，该书于 2020 年 ChatGPT 崛起之前出版。是什么促使您写《驯服硅谷》？为什么是现在？

加里·马库斯：上一本书探讨了为什么人工智能很难，以及当时的方法在技术上为何不够充分。五年后，我仍然[认为]我们当时所说的大部分内容都是正确的。新书讲述的是当前社会正在发生的事，原因是一种非常不成熟的人工智能（生成式人工智能）正在迅速传播。但最终它更多地是关于：为什么获得正确的人工智能形式迫在眉睫，以及为什么公民应该参与进来。

PCMag：目前在生成式人工智能领域中的一些知名企业/巨头正在告诉我们，通用人工智能（AGI） 即将到来。他们是对还是错？

马库斯：错。每当有人这么说，我就知道他们对智能的复杂程度以及我们还有多远的路要走缺乏清晰的认识。而且大多数这么说的人实际上并不想为他们的信念辩护；我向埃隆·马斯克（Elon Musk）出价一百万美元来驳斥这种说法，但他不敢接受。

即使是最新的模型（GPT o1）也不能可靠地在井字棋游戏中获胜或在国际象棋中始终做出合法的走法；它在浮点运算方面也有困难。每个新模型都像上一个一样存在幻觉之类的问题和愚蠢的错误，然而我们所拥有的只是无尽的承诺，而非一个有原则的解决方案。

PCMag：在您看来，人工智能能否像人类一样真正“知道”任何事情？

马库斯：我觉得没理由不行。GPS 导航系统实际上知道您的车在哪里、您要去哪里、中间的道路是什么，并算出一条高效的路径。在我看来，这似乎就是知识，而且是可靠的知识。

大型语言模型要难处理得多，也不可靠得多，就像个黑匣子。我不确定我真的愿意把除统计趋势之外的任何知识归功于它们。但这并不意味着其他方法在概念上不能更深入。只是意味着我们不应在通用人工智能上浪费这么多钱，而应该开始探索不同的方法。

PCMag：一些硅谷高管和风投声称，监管本质上阻碍了创新。您如何看待这样的论点？

马库斯：他们纯粹是胡说八道，是那些贪婪的人为了赚一笔钱啥都敢说。您觉得如果没有监管，商业航空公司会安全吗？

PCMag：您的书中讨论了人工智能目前被用于有害用途的多种方式。人工智能还极度耗能，在人类导致的气候变化、化石燃料行业以及全球污染依旧令人忧心的当下。鉴于所有这些，您认为当今的人工智能对人类来说是净积极的吗？还是净消极的？如果是消极的，需要发生什么才能扭转影响？

马库斯：我会说 AlphaFold、谷歌搜索和 GPS 导航都是非常净积极的，但聊天机器人和生成式人工智能情况较为复杂，很容易最终呈现出净消极的态势。我认为（a）我们应该寻找比生成式人工智能更好的技术，这是当下的技术但非常有缺陷，并且（b）让公司对其技术产生的负面影响（错误信息、对环境的危害、未经同意的深度伪造色情内容、招聘中的隐性种族主义等）承担更多责任，如果我们这样做，公司会想出更好的方法。如果我们不让他们负责，我们将面临一团糟。

PCMag：一些大型科技公司，如 Meta、谷歌和微软，已经看到了他们的人工智能产品的强烈反对。当然，Meta 意识到病毒式的人工智能生成的虾耶稣图像并没有推动社会变得更美好，而微软的召回功能已被批评为安全问题。您认为这些公司为什么一直试图向用户推送生成式人工智能功能，往往不让他们选择退出？

马库斯：显然他们都在寻找投资回报率[投资回报]，但这项技术的效果远没有他们期望公众相信的那么好，公众（和大公司）都意识到他们被忽悠了。所以像微软这样的公司似乎急于为生成式人工智能找到用途，但并没有说服那么多人。

PCMag：正如您在书中所讨论的，人工智能生成的图像正在 排挤谷歌上合法的历史图像 或真实世界的图像结果。谷歌的 人工智能相关概述 也一直是个 大问题 ，用户无法真正关闭。随着谷歌和必应越来越多地被人工智能生成的结果充斥，普通人在网络上该如何导航？

马库斯： 他们应该“坚决说不”，并告诉这些公司，他们不想要一堆他们没有要求的破坏气候、侵犯版权的人工智能系统，如果硅谷不整顿好，甚至可以考虑抵制人工智能。

驯服硅谷 将于 9 月 17 日由麻省理工学院出版社出版。