惊！机器人是否正在悄悄吞噬我们的灵魂？

我一直在思考特德·姜（Ted Chiang）在《纽约客》上发表的有关人工智能（AI）的那篇文章 关于 人工智能（AI） 。他的基本论点是，以像 ChatGPT 这样生成文本的大型语言模型（LLM）以及像 DALL·E 这样的文本到图像模型为例的人工智能，无法创作艺术，因为它无法做出艺术家凭借多年的知识和经验所做出的特定和情境化的选择。这里有对选择框架的一则不错的批评 此处 ，而且我或多或少认为人工智能无法创作艺术（尽管它可以制作看起来像艺术的东西），而且那些在意工艺、散文以及词语质量依次搭配的人，不太可能向 LLM 输入提示来创作自己的散文、诗歌和书籍。

更有趣也更值得琢磨的是，为啥有人可能想用 LLM 来写东西，以及在啥情况下用。任何从事办公室工作的人，任何得生成列表、报告和格式信函的人，可能会在 LLM 中找到一种减少工作并更多享受时间的方法。资本主义下的劳动剥削逻辑意味着所有工人都被视为可互换的小部件；因此，必须在该系统中生存的人会使用一种工具，帮助他们以最小的努力和时间成为更好、更高效的小部件，这样他们就有更多的时间去做他们真正想做的事情。

这一点容易指出来，可很难采取啥措施。那些靠 LLM 的输出赚大钱的人，才不关心季度末总结报告是由“人工”而非人类智能写的呢。也许那些往系统里输入文字然后等着它生成报告的人也不在乎。他们宁愿在网上购物、读书、查看社交媒体、与同事交谈或做其他事情。这没关系。

问题在于，机器人会让我们丢掉那些从一开始就不想从事的工作，但我们却无法从这种工作岗位的流失中获得好处。我们不会因为借助人工智能能够以 50 倍的速度处理那些无聊的电子邮件工作而拥有更多个人时间，也不会因为效率提升而拿到更高的工资。（十多年前，大卫·格雷伯（David Graeber）在《毫无意义的工作》中就提出了这一论点。）

更有可能发生——也许已经在发生了——而且我觉得悲剧的是，机器人不仅会在实际意义上，即在工作中取代我们，而且会使我们变得更不像人类。我们在工作中依赖它们，然后依赖它们给房东写信，最终，由于我们长时间不思考，以至于给女友发短信（或者像在那个谷歌广告里那样，帮女儿给她最喜欢的运动员写信）都得依靠大型语言模型。它们会帮我们避开一个不仅能让我们成为更出色的艺术家或作家，而且关键是能让我们成为更优秀的人的过程。

良好的思考以及随之而来并对其起到促进作用的必要自我反思，增强了我们在诸如同理心、慷慨和团结等方面的能力。它提升了我们同时持有两个或更多相互矛盾想法的能力。它让我们与自身联系起来，以便我们能够与他人联系。它使我们更彻底地成为人类的一部分。

当然，无意义的工作和辛苦的劳作几乎并非深度思考机会的巅峰。但是大型语言模型的激增正在使本已严峻的局势——人们几乎没有任何时间为自己思考，去做能令他们满足、能增强他们的爱、同理心以及我上面提到的所有其他能力的事情——变得更糟。

这些模型的使用是极度反社会的，这不仅是因为它们切断了两个人之间的交流，而且更重要的是，因为它们切断了与自我以及自我内部的交流。它们的使用助长了对于写作甚至说话、语言本身的工具主义观点，排除了我们将语言用作发现手段的可能性。当一个大型语言模型依据提示生成一段文本时，它生成的东西看似一篇文章或一首诗，但实则都不是，因为它所传达的并非其创造者的真实意识，而仅仅是其最初的意图。任何作家都知道，你很少能创作出你原本打算创作的东西。

理想情况下，写作是一种使原本无法表达的东西能够表达出来的手段，是一种发现原本隐藏的东西的手段。我说话的方式跟写作的方式不一样；我的想法在很大程度上难以表达，所以在言语中于我而言是未知的。我认为对于那些不称自己为作家的人来说也是如此。

在那个小小的谜团里存在着一些有价值的事物，一些能将我们彼此联结起来的东西，从而让生活变得值得去过，为一个更美好的世界去奋斗也变得值得。倘若未能接触到那个谜团，我们就不再是人类的一份子，而是沦为了恰好组织我们工作生活的那种完全随意、具有剥削性的系统中的小齿轮。