AI专家加里·马库斯为何称OpenAI如此极端？

在现代文学中，乔治·奥威尔（George Orwell）的《1984》也许因其向读者警示大规模监控的危险而最为知名。这部反乌托邦小说设定在一个想象的世界中，无所不知的“党”不断监视其居民。

人工智能专家加里·马库斯称，塑造全球人工智能军备竞赛的公司即将将奥威尔的想象变为现实。

“我猜 OpenAI 将会成为有史以来最具‘奥威尔式’特点的公司。”他上周在斯坦福以人为中心的人工智能中心与谷歌资深人士彼得·诺维格（Peter Norvig）的讨论中说。“他们将要被迫去做的就是成为一家监控公司。”

马库斯是一位学者，也是好几本书的作者，包括《重启人工智能：构建我们可以信任的人工智能》，以及最近的《驯服硅谷》。

OpenAI 已声名鹊起，部分原因是为企业提供了使用其人工智能模型和资源的途径。但马库斯认为，该公司无法通过这种方式赚到足够的钱来支撑其估值，因为这项技术还不够先进。

“OpenAI 兜售了适用于所有目的的通用人工智能这一梦想，在 2023 年，几乎每家大公司都基于这一前提进行了试点研究，”他在 X 上给《商业内幕》发的直接消息中说道。“但在 2024 年，来自该领域的许多报告都满是失望：这项技术在生产方面还不够可靠，因为它受到诸如幻觉和愚蠢错误等问题的困扰。因此，许多企业开始变得谨慎。”

然而，还有另一种赚钱的方式：监控。人工智能可以快速合成大量数据，帮助任何能够支付费用的人整理数据——无论是调查公民的政府机构，还是针对特定选民的政治活动。

马库斯怀疑 OpenAI 最终将挖掘这一潜在的收入渠道，并成为一家强大的监控公司。

此前就有人担心 OpenAI 的技术可能会被用于加强监控工作。 今年 6 月，OpenAI 宣布已 任命前美国国家安全局局长保罗·中曾根（Paul Nakasone） 为其董事会成员，这 引发了大量批评。美国举报人爱德华·斯诺登称这一任命是“对地球上每个人权利的蓄意背叛”。

斯诺登当时在 X 上发帖补充说，“人工智能与过去二十年来积累的海量监控数据的交集，将把真正可怕的权力交到少数不负责任的人手中。”

马库斯敦促该公司员工表达他们的担忧，并说：“我不想参与其中。”

这并非马库斯首次批评 OpenAI。去年在国会山与首席执行官萨姆·奥特曼会面后，他既印象深刻又心存疑虑，指出奥特曼似乎对于该技术可能造成的危害‘并非真心担忧’。

今年早些时候，他说他仍希望奥特曼能让公司重回正轨，成为一股“向善的力量”。现在，他不那么确定了。

“在过去的几个月里，真面目彻底暴露了，我严重怀疑他是否会回到这个使命上来，”他告诉 BI，提到了该公司重组业务的计划。“向投资者承诺转为盈利，这基本上意味着机会已经错失了。”

OpenAI 没有立即回应《商业内幕》的置评请求。