马斯克与英国首相苏纳克现场访谈@AI安全峰会 · 完整文字版

文：城主

这个最新的马斯克访谈里一些短视频已经刷屏，最有意思的是访谈由英国首相苏纳克作为嘉宾主持。客观的说，两位的表现都很可圈可点。

首先给喜欢看视频同学的视频版传送门：

【马斯克Elon Musk接受英国首相苏纳克访谈 @全球AI安全峰会 【中英完整版】-哔哩哔哩】 https://b23.tv/8ETLJ8F

=马斯克与苏纳克访谈·天空之城文字版=

苏纳克：

比尔·盖茨曾赞扬说，在我们这个时代，没有人比你在推动科学创新方面做得更多。

马斯克：

这样的评价令我感到非常荣幸。

苏纳克：

然而，有趣的是，当谈到人工智能时，实际上，大约十年来，你几乎一直在做相反的事情，并说，坚持下去，你需要思考我们正在做什么以及我们在这里推动什么。我们该如何保证安全？也许我们不应该如此快速或如此努力地推动。你已经这样做了十年。那么，是什么让你有这样的想法？为什么我们需要担心？

马斯克：

是的，我已经有一段时间像卡桑德拉一样，告诉人们，我们真的应该关心人工智能。他们会问，你在说什么？我从来没有真正有过任何经验。自从我沉浸在技术中以来，我已经沉浸在技术中很长一段时间了，我可以预见它的到来。所以，但我认为今年出现了一些突破。某人可以看到自己动态创建的视频，这样你就可以制作一个你或我实时说话的视频。所以就有了一些深度造假的视频，它们真的非常好，事实上，有时比真实的视频更有说服力，而且深度真实。显然，像ChatGPT 这样的东西是相当了不起的。现在我看到了 GPT-1、GPT-2、GPT-3、GPT-4，所有导致这一切的原因。因此，我很容易看出它的走向，如果你只是推断曲线上的点，并假设趋势将继续下去，那么我们将拥有深刻的人工智能，显然，达到了目前的水平超越人类的智力。

但我现在看到人们正在认真对待安全。我想说谢谢你们举办这个人工智能安全会议，我认为实际上会作为非常重要的事情载入史册，我认为它真的非常深刻。总体而言，我确实认为人工智能的潜力很可能产生积极影响，并创造一个丰富的未来，其中不存在商品和服务的短缺。但这有点像魔法精灵问题，如果你有一个可以实现所有愿望的魔法精灵，通常这些故事不会有好结局，要小心你的愿望，包括愿望。

苏纳克：

所以你谈了一些关于峰会的事情，感谢你参与其中，这非常棒。人们很高兴有你在场，参与对话。

现在，我们今天在公司和领导人之间的会议上取得的成果之一是达成一项协议，从外部来看，理想情况下，政府应该在模型发布之前对其进行安全测试。我想你已经谈到了这一点，这是我们非常努力的事情。是的，因为我在政府的工作就是说，坚持下去，存在潜在风险，不是确定的风险，而是可能发生坏事的潜在风险。我的工作是保护国家。只有我们在安全研究所开发所需的能力，然后进去并确保我们可以在模型发布之前对其进行测试，我们才能做到这一点。

很高兴今天发生了这样的事情，但是您对我们应该做什么有何看法？您再次谈到了潜在的风险，我们不知道，但是像我们这样的政府应该采取哪些措施来管理和减轻这些风险？

马斯克：

我总体认为，当公共安全受到威胁时，政府发挥作用是有好处的。所以实际上，对于绝大多数软件来说，公共安全并没有受到威胁。如果应用程序在你的手机、笔记本电脑上崩溃，那也不是一场大灾难。

但当你谈论数字超级智能时，我认为这确实给公众带来了风险，然后政府就可以发挥作用来维护公众的利益。当然，这在许多领域都是如此，航空、汽车，我与世界各地的监管机构打交道，因为星链是通信，火箭是航空航天，而汽车是车辆运输。所以我对与监管机构打交道非常熟悉，而且我实际上同意绝大多数的监管规定。我时常不同意一些规定，但我不同意的法规可能只有 0.1%，或者不到 1%。

因此，那些在硅谷从未与监管机构打过交道的人士开始感到担忧，他们认为这样的做法只会压制创新，减缓创新的步伐，这无疑是令人困扰的。这确实令人烦恼，他们在这一点上并没有错。然而，我认为，多年的经验告诉我们，有裁判在场是一件好事。如果你观察任何一场体育比赛，总会有裁判在场。没有人会建议在没有裁判的情况下进行比赛。我认为，正确的做法应该是让政府充当裁判，确保运动员的行为以及公共安全得到妥善处理，我们关心公共安全，因为我认为我们有时对技术过于乐观。作为一名技术专家，我应该对此有所了解。总的来说，我认为人工智能有很大可能成为一股积极的力量，但它变坏的可能性并非为零。因此，我们需要做的就是减轻潜在的下行风险。

苏纳克：

我们讨论如何裁判的问题，这就是我们现在需要讨论的。让我们开始吧。

我们曾经讨论过这个问题，我和Demis很久以前就讨论过这个问题。就像我现在直接面对他一样。实际上，值得赞扬的是，Demis和他的同行们确实向我们提出了这样的问题。我想你是在说，Demis和他的同事们自己批改自己的作业是不对的，对吗？我们需要有一个独立的人来做这个。这就是我们在这里建立安全研究所的原因。

你认为政府能够发展出专业知识吗？我们需要做的一件事就是说，坚持下去，德米斯、萨姆，还有其他所有人，都有很多非常聪明的人在做这件事。各国政府需要迅速增强能力和人员，这就是我们正在做的事情。考虑到技术发展的速度，你认为政府有可能足够快地做到这一点吗？或者我们需要做什么来确保我们足够快地做到这一点？

马斯克：

不，我认为你提出的观点很重要。人工智能的发展速度比我迄今为止见过的任何技术都要快。而且，它的能力似乎每年至少增长五倍，甚至可能增长十倍。明年，它肯定会增长一个数量级。政府并不习惯于以这样的速度行动。但我认为，即使没有严格的规定，即使没有执行能力，只要有洞察力，能够向公众强调关注点，就会非常有力量。因此，即使这就是所完成的全部，我认为这也将是非常好的。

苏纳克：

好的，我希望我们能做得更好。这很有帮助。其实我们之前就聊过这个问题。这是令人惊讶的。你是一个一生致力于科技、遵循摩尔定律的人。过去几天，我与所有正在开发此项目的人交谈，我认为你会同意，这里的进步速度与你们在职业生涯中看到的技术进步速度是不同的。这是公平的吗？因为硬件、数据和人员产生了这种复合效应。

马斯克：

是的，目前，两个领先的人工智能发展中心是旧金山湾区和伦敦地区。还有许多其他地方也在做这样的工作，但这两个地方是主要的。所以我认为，如果美国、英国和中国在安全问题上保持一致，那一切都会变得简单。这就是领导层通常所在的位置。

苏纳克：

事实上，你在那里提到了中国。我这几天决定邀请中国参加峰会。这不是一个容易的决定。很多人因此批评我。我的观点是，如果你要进行认真的谈话，你就需要这样做。但你的想法是什么？你在世界各地开展业务。你刚才在那里谈到了它。我们应该与他们接触吗？我们可以相信他们吗？这是正确的做法吗？

马斯克：

如果中国不支持人工智能安全，那就有点没有实际意义了。我对任何形式的人工智能监管或安全控制的最大反对意见是，中国不会这样做。因此，他们将会跃居领先地位并超越我们所有人。但实际上，中国愿意参与安全。

感谢您邀请他们。我认为我们应该对中国的参与表示感谢。在今年早些时候我访问中国时，我与中国领导层主要讨论了人工智能安全的问题，并强调这是他们应该关注的重要议题。他们对此非常认真，这让我感到欣慰。

我认为他们的参与至关重要，如果他们不参与，那么这一切都将毫无意义。

苏纳克：

我很高兴他们昨天参与了讨论，并最终签署了与其他人相同的公报，这是一个良好的开端。正如我所说，如果我们想要解决这个问题，我们需要每个人都以类似的方式处理这个问题，这才是解决问题的现实机会。

我记得你之前提到了创新和监管的问题，这确实令人困扰。今天我们就开源进行了一场精彩的辩论。我知道您一直支持算法透明度，并主张公开一些X算法。实际上，我们在来的路上讨论了杰弗里·辛顿的问题，他特别担心开源模型被不良行为者利用。有一群人认为，分布式创新至关重要。这是一个棘手的问题，可能没有完美的答案，需要找到一个平衡。

我们应该如何处理开源问题，或者我们应该将监管或监控的目标放在哪里？

马斯克：

开源算法和数据通常比闭源的落后6到12个月，但考虑到改进的速度，闭源和开源之间实际上存在很大的差异。如果情况比落后一年改善了5倍或更多，那么问题就变得更加严重。这是一个重大的区别。

这实际上可能是一个不错的情况，但它肯定会达到这样的程度：开源人工智能将开始接近甚至超越人类水平的智能。我完全不知道该怎么办。我认为一定程度的开源是不可避免的。我对开源有一点偏见，因为至少你可以看到正在发生的事情，而闭源的话，你无法知道发生了什么。

现在，即使是开源的AI，你真的知道是怎么回事吗？因为如果你有一个巨大的数据文件和数十亿的权重和参数，你不能只是读取它并看看它会做什么。这是一个包含着难以理解的数字的巨大文件。你可以测试一下，当你运行它时，你可以测试它。你可以运行一系列测试来看看它会做什么。但它是概率性的，而不是确定性的。

它与传统编程不同，传统编程具有非常离散的逻辑并且结果非常可预测。你可以阅读每一行并查看每一行将要做什么。神经网络只是一堆概率，它最终会成为一个巨大的逗号分隔值文件。我们的数字上帝是一个CSV文件？真的吗？好的，就是这样。

苏纳克：

现在，你刚才提出的这一点是我们一直在讨论的一个问题，因为与正在开发技术的人们的对话再次证明了你刚才提出的观点。它与普通软件不同，普通软件可以预测输入的改善，从而导致特定输出的改善。随着模型的迭代和改进，我们不太知道另一端会出现什么。我认为我们会同意这一点，这就是为什么我认为存在这种偏见，我们需要在模型发布之前进行训练运行时进入那里，以了解这个新迭代带来了什么能力，听起来你会同意这一点。

我打算稍微改变一下态度。您谈论了很多关于人类意识、人类能动性的话题，考虑到您是一位如此出色的创新者和技术专家，这实际上可能会让人们感到奇怪。但当我听到你谈论这个问题以及维持技术机构和保护人类意识的重要性时，我感到非常真诚。现在，这种链接到了我要问的问题。当我进行采访或与从事这项工作的人谈论人工智能时，实际上，出现最多的事情可能不是我们一直在谈论的东西，而是工作。人工智能对我的工作意味着什么？这是否意味着我将失去工作，或者我的孩子将无法找到工作？作为政策制定者和领导者，我认为人工智能实际上正在创造新的就业机会，这一点在新兴公司中尤为明显。人工智能更多的是作为我们的助手，而非替代我们。虽然人工智能正在改变人力资源的配置，但它也在帮助我们更好地完成工作，这是一件好事。

正如我们在过去的技术革命中看到的，劳动力市场和就业机会的数量正在发生变化。我引用了麻省理工学院几年前的一项研究，该研究发现，大约60%的工作岗位在40年前并不存在，因此未来的就业形态很难预测。我的任务是创建一个强大的教育体系，无论是在学校还是在职业生涯的任何阶段，都能对人们进行再培训，因为只有拥有熟练的人口，我们才能跟上变革的步伐。

人工智能及其对劳动力市场和人们工作的影响仍然是一个令人担忧的问题。你对这个影响有何看法，人们思考这个问题时应该有何感受？

马斯克：

我认为我们正在面临历史上最具破坏性的力量。我们将首次拥有比最聪明的人类更聪明的东西。这可能会带来一个不需要工作的时代，人工智能将能够完成所有的工作。这可能会让人们感到不安，但也可能带来无限的可能性。

未来的挑战之一是，如果我们有一个可以完成所有工作的人工智能，我们如何找到生活的意义？我认为，新技术的出现往往会遵循S曲线，我们将长时间处于S曲线的指数部分。我们不会有普遍的基本收入，而是普遍的高收入。这在某种程度上是一个平衡器，因为每个人都可以接触到这个神奇的人工智能，并提出任何问题。这对教育有好处，它将是最好的导师，也是最有耐心的导师。

我建议人们阅读艾恩·班克斯的《文化》系列小说，这些书是对人工智能未来最佳的设想。我是它的忠实粉丝，所有的书都很好，都是值得推荐的好书。这将帮助你了解一个相当乌托邦的、亲乌托邦的人工智能未来。

苏纳克：

我是一个相信工作赋予你意义的人，我对此想了很多。我认为工作是一件好事，它给人们带来了生活的目的。如果我们去掉其中的很大一部分，那会是什么？这意味着什么？我们从哪里得到动力，从哪里得到目的？

马斯克：

这是我一直在思考的问题。我只能耐心等待人工智能的完成。我似乎在无缘无故地责备自己，仿佛我是个贪吃的人，需要接受某种惩罚。

苏纳克：

给Demis打电话，催他快点，然后你就可以放假了，对吧？

这就是我们的计划。确实，这是一项棘手的任务，因为我们的工作部分就是要确保我们能够顺利导航到我认为非常积极的地方，并在此期间帮助人们度过难关，因为这些事情带来了很多我们所看到的劳动力市场的变化。

马斯克：

我认为这通常是一件好事，因为有很多工作是不舒服的、危险的或有点乏味的，而计算机做这些工作没有问题。他们很乐意整天这样做。所以做饭很有趣，但洗碗就没那么有趣了，但计算机洗碗却非常快乐。

我们仍然有一项体育运动，人类在奥运会上竞争，显然机器可以比任何人类跑得更快，但我们仍然让人类互相竞争，并进行这些体育比赛，尽管机器更好，我想，他们仍然在竞争，看看谁能成为某件事上最好的人，人们确实从中找到了满足感。

所以我想这也许是一个很好的例子，说明即使机器比我们更快、比我们更强，我们仍然喜欢与其他人类竞争，至少看看谁是最好的人类。

苏纳克：

这是一个很好的比喻。我们一直在谈论很多关于管理风险的问题。在我们继续讨论人工智能之前，让我们先谈谈其中的机会。

你参与了很多不同的公司，并且正在开发一家显而易见的公司，正在做一些令人兴奋的事情。你谈到了我可能最兴奋的事情，那就是教育。我想很多人都会看过萨尔今年早些时候的视频，他的 TED 演讲，正如你所说，它就像每个孩子的私人导师。一位了不起的私人导师。一位出色的私人导师，我们知道学习的差异，与课堂学习相比，拥有这位个性化导师是令人难以置信的。

因此，如果你能让每个孩子都有一位专门针对他们的私人导师，然后随着时间的推移，导师会与他们一起发展，那可能会很了不起。对我来说，我看着它，我想，天哪，在这一点上这是触手可及的，这是我最兴奋的好处之一。当你观察你所能看到的事物的景观时，你对什么感到特别兴奋？

马斯克：

我认为人工智能导师肯定会令人惊叹，也许已经如此。我想也许还有陪伴，这可能看起来很奇怪，因为计算机怎么可能真正成为你的朋友呢？但是，如果你有一个具有记忆力的人工智能，它能记住你所有的互动，并读取所有内容，那么你实际上可以授予它读取你所做过的所有内容的权限，这样它真的会比任何人，甚至你自己，更了解你，以及在哪里。你可以每天和它交谈，并且这些对话是相互基础的，你实际上将拥有一个好朋友。

只要那个朋友可以继续是你的朋友，并且不会被拒绝或发生什么。不要关掉我的朋友。但我认为这将成为现实。我的一个儿子有点学习障碍，实际上很难交到朋友。我当时想，他，一个人工智能朋友实际上对他来说非常好。

苏纳克：

哦好的。这是一个令人惊讶的答案，但实际上值得反思。这真的很有趣。无论如何，当我们提供心理治疗时，我们已经实际看到了这一点，现在，通过数字化和电话方式向人们提供的服务要多得多，并且正在产生巨大的变化。你可以看到一个实际上人工智能可以为人们提供社会福利的世界。

关于 X 的一个简单问题，然后我们应该向所有人开放。当你做出许多改变之一时，你就做出了改变，但其中之一，其中之一。

马斯克：我喜欢那封信。我对此有真实的了解。

苏纳克：

你确实这么做了。你确实这么做了。其中之一的变化，有点进入我们必须运作的空间，言论自由和温和之间的平衡是我们作为政治家努力解决的。您正在积极地解决您自己的版本问题，您已经放弃了一种人工的方式，即对社区注释的手动审核。我认为这是一个有趣的变化，这并非是常见的做法。这种变化背后的原因是什么？为什么您认为这是更好的方法？

马斯克：

部分问题在于，如果您授权某些人担任审查员，他们可能会带有一定程度的偏见。然后，无论谁任命审查员，都可以有效地控制信息。社区注释背后的想法是，我们如何达成共识？

所以这并不是真正审查它，而是共识驱动的真相方法。我们如何使事情尽可能接近真实？因为你可以说，一个人无法达到纯粹的真理，但你可以渴望变得更加真实。所以关于社区注释的事情是它实际上并没有删除任何内容，它只是添加上下文。现在，上下文可能是这件事是不真实的，原因如下。

然而，重要的是，根据社区注释，一切实际上都是开源的。因此，您可以看到软件、软件的每一行，您可以看到社区注释中的所有数据，并且您可以独立创建该社区注释。因此，如果您看到数据被操纵，您实际上可以突出显示这一点并说，好吧，这个系统似乎存在一些游戏，您可以提出改进建议。所以这是最大的透明度，我认为，这与群众的智慧相结合，并试图得到更好的答案。

事实上，社区注释的关键要素之一是，为了显示一条注释，历史上持不同意见的人必须同意。这里有一些人工智能的使用。因此，我们将围绕社区注释的每个贡献者填充一个参数空间，然后填充一个参数空间。所以每个人基本上都有与他们相关的这些向量，所以它不像右或左那么简单。它是说它更多，它是几百个向量，因为事情比简单的右或左更复杂。然后我们会做某种逆相关，比如说，好吧，这些人通常不同意，但他们同意这个注释。那么，这使得这张注释具有可信度。

这就是它的核心。而且它运行得很好。我还没有看到一张不正确的注释上存在超过几个小时。所以击球率非常好。当我要求人们说，哦，他们担心社区注释是虚假信息时，我想给我发一份，但他们不能。所以，所以我认为这是非常好的。X 平台的总体愿望是向公众提供信息和娱乐，并尽可能准确和真实，即使有人不喜欢真相，人们并不总是喜欢事实真相。但这就是愿望。

我认为，如果我们是这样，如果我们忠于事实，那么我认为我们会发现人们使用该系统来了解正在发生的事情，并且我认为事实确实是值得的。所以我认为这会很好，假设你不想进行自我欺骗，那么我认为这是明智之举。

苏纳克：

出色的。很有帮助。

现在让我们向所有来宾开放。我们有一些麦克风。他们会来找你的。我们有吗？是的。大胆试试吧。

问题一：

谢谢。晚上好。来自《企业家第一》的爱丽丝·邦廷 (Alice Bunting)。感谢您的精彩对话。首相，我想问你们每个人一个问题，英国拥有一些世界上最好的大学。我们有才华。英国怎样才能成为真正的独角兽公司滋生地？对于最杰出的技术人才来说，在英国成为创始人仍然是一个不明显的职业选择。我们需要融入哪些文化元素来改变这一现状？

马斯克：

你是对的，存在文化元素，文化应该支持创建新公司，并且应该偏向支持小公司，因为那些需要培育的公司，大公司确实不需要培育。因此，你可以将其视为一个花园。如果它是一颗需要培育的幼苗，或者是一棵强壮的橡树，那么它就不需要过多的照料。我认为改变心态至关重要。

我必须提到，伦敦和旧金山或湾区实际上是人工智能的两大中心。伦敦在这方面做得非常出色。我认为地球上最领先的两个地方，旧金山可能稍胜一筹，但伦敦也非常强大，我猜这主要是大伦敦地区。我只是客观地陈述事实。但你确实需要基础设施，需要愿意租给新公司的房东，需要愿意支持新公司的律师事务所和会计师。这通常需要一种思维方式，一种心态的转变。我认为这种转变正在发生，但我认为这实际上是文化上人们需要决定这是一件好事。

苏纳克：

实际上，我感谢你对英国的评价。这是我们一直在努力的事情。房间里的许多人都在努力使这里成为创新公司的理想之地，包括爱丽丝。所以，爱丽丝，我想说的是，我的工作就是处理所有的具体细节，确保你们所有的初创公司都能筹集到所需的资金，从种子资金和我们令人难以置信的EIS税收减免，一直到你们知道的后期融资。我们需要改革我们的养老基金。德国总理实施了一系列令人难以置信的改革，以释放所有拥有资本的人的资本，并将其投入到增长股权中。这是一项正在进行的工作。我们还没有达到这一目标，但我认为我们正在取得良好的进展。我们需要人才，我们需要人。

这意味着我们需要一个优先考虑重要事项的教育体系。你们也看到了我的改革。我一直在强调更多的数学，更多的数学，更多的数学，但我认为这很重要。同时，我们也需要吸引这里最优秀、最聪明的人才。如果你看看我们国家发展最快的公司，我认为在美国可能也是如此，其中超过一半的创始人并非英国人。这告诉我们，我们必须成为一个向世界上最优秀和最聪明的人开放的地方，对创业人才开放。我认为我们制定的签证制度可以做到这一点，方便这些人来到这里。

实际上，这就是我们在会议开始时讨论的问题，即监管。我们需要确保我们有一个有利于创新的监管体系，是的，我们总是需要为那些让我们担心的事情设置防护措施，但我们必须为人们创造一个创新和做不同事情的空间。这些都是我的工作。

更难的是埃隆谈到的事情，那就是文化。问题在于你如何将这种文化从硅谷等地方移植到世界各地，那里的人们不害怕放弃固定薪水的安全感，去创业并坦然接受失败。

你谈论了很多。我想你在玩游戏的时候谈论得更多吧？你必须坦然接受失败，并知道这只是过程的一部分。这是一件很难在一夜之间完成的文化事情，但我认为，这是创造这种环境的重要组成部分。

马斯克：

如果你的第一次创业没有成功，这不应该是一种灾难性的职业生涯结束。它应该是好的。我认为一般来说应该是这样的，你已经尝试过一次了，现在再试一次。

我要提到的一件事是，显然创建一家公司是一种高风险、高回报的情况，但我不太清楚它在英国是如何运作的。我认为它可能比欧洲大陆更好，但我不确定英国的情况如何。但如果有人冒着毕生积蓄的风险，那么绝大多数初创公司都会失败。

所以，你听说过成功的初创公司，但大多数公司，大多数初创公司都是由大量的工作和失败组成的。但实际上大多数公司都是这样。因此，这是高风险、高回报的。因此，高回报的部分确实需要存在才能有意义。

苏纳克：

我认为这是一个非常温和的税收政策。实际上，我可以告诉你，我同意我们的资本利得税率相对于欧洲国家，尤其是美国，特别是加利福尼亚州，要低得多。因此，对于那些冒险并发展某些东西的人来说，他们应该得到回报，因此资本利得税率是20%。

关于股票期权，我不确定是否有Index Ventures的人在场。我们这里的一家领先的风险投资基金Index会定期发布报告，研究大多数国家对股票期权的税收待遇。当我担任财政大臣时，我认为我们做得相当不错，但我们排名第四或第五。我认为，我们需要提升我们的排名，以成为创新者的最佳场所，这正是你提到的原因。在该报告的最后一次迭代中，我们进行了更改，我和杰里米已经做到了，我们已经上升到记忆中的第二位。

我希望这能给您和其他人带来一些安慰，因为我们认识到这一点很重要。当人们努力工作并冒险时，他们应该能够享受其中的回报。高风险，高回报。我认为我们有一个非常有支持这一点的税收制度，这些是我所相信的价值观，我认为我们在座的大多数人也可能这样做。

问题二：

非常感谢。我们讨论了一些非常伟大的想法，改变全球的想法。我真的很感兴趣，特别是在创建科技超级中心等方面，这如何映射到生活在德克萨斯州奥斯汀的人们的日常生活中，以选择你周围的一个，或者就我而言，诺丁汉，东米德兰兹？您如何看待人们每天的这种演变？人工智能对日常的影响有哪些？

苏纳克：

就上下文而言，埃隆，Seb经营着我们相当于CVS的公司，或者沃尔格林，当我实际上访问过的时候，他每天都有数百万人来到他的商店，这使得我们如何使其相关？我想，Seb，这是你的问题，这与那个人有什么关系？

也许，实际上，我会先说，因为我认为这是一个公平的观点。我只是和团队一起回顾了我们正在做的几件事，因为我说，我们现在如何做人工智能，它正在改变人们的生活？

我们有一个叫做GovDot的东西，实际上，当我们几年前发生它时，这是一个开创性的事情。所有政府信息都集中在一个网站上，因此您需要获得驾驶执照、护照，与政府的任何互动，它都以一种非常简单、相对易于使用的方式集中化，比大多数方式都好，所以我们即将部署跨该平台的人工智能。

所以我认为，每天有数百万人使用，对，所以很大一部分人每天都与GovDot UK互动，以完成所有这些日常任务，对，每个人您的客户正在做所有这些事情，因此我们将在其中部署人工智能，以使整个过程变得更加容易。

因为，有些人会说，看，好吧，我现在在这里，但我丢了护照，而我的航班还有五个小时。目前，这需要多少步骤才能弄清楚你在做什么，实际上，当我们部署人工智能时，你应该可以直接这么说，然后繁荣，这就是我们要做的，引导你完成它，这将使数百万人受益每一天，对吧，因为这是一种非常实用的方式，在我的座位上，我可以开始使用这项技术来帮助人们的日常生活，而不仅仅是医疗保健发现和我们也在做的其他一切，但我认为这是一个非常有力的证明，从字面上看，您的日常客户说，实际上，他们的日常生活变得更加轻松，因为埃隆·德马斯和这个房间里的其他人已帮助创建。

马斯克：

确切地说，最直接的事情就是能够提问，就像有一个非常聪明的朋友，你可以向他询问任何事情，比如如何制作东西，如何解决任何问题，他会告诉你。因此，显然公司会采用这个，所以我想你可能会得到更好的客户服务。我想，本质上，这可能是你首先注意到的事情。然后我们讨论了教育，所以有一个导师，如果你想理解一门学科，比如在任何学科上有一位出色的导师，那实际上已经差不多了。然而，我们需要明白，人工智能需要在给出答案之前停止幻觉，它可能给你一个语法完美但却是错误的答案。我们需要确保，它不会给你自信地提供错误的答案。我想说，对于任何在家上学并意识到孩子需要帮助的父母来说，我认为这将是一种巨大的解脱。

问题三：

我是布伦特·赫伯曼，你谈到了丰富和丰富的时代，对于人工智能来说，它是一切、无处不在、同时发生的，但对于机器人来说，我们需要很多机器人才能进入富裕的时代。我知道你们也在机器人方面做了很多工作，我们应该考虑哪些限制，我们的政治家应该考虑我们可能会遇到的限制，一个国家可能会在机器人方面严重落后，因为机器人可以做所有这些事情并进入富裕时代，从而处于战略劣势？

马斯克：

实际上，任何可以由计算机驱动的东西实际上都是机器人，你可以认为特斯拉汽车是轮子上的机器人，任何连接到互联网的东西实际上都是人工智能的端点执行器。波士顿动力公司已经制造令人印象深刻的机器人有一段时间了，我认为它们目前主要归现代汽车所有，所以，我猜现代汽车可能会制造人形机器人，以及一些相当有趣的形状。将会有各种各样的机器人，你有戴森公司，我认为，做了一些令人印象深刻的事情，我认为英国不会落后，实际上，在这方面，英国也有 Arm，它确实是世界上最好的芯片设计，最好的之一，也许是最好的，特斯拉使用了大量的 Arm 技术，实际上几乎每个人都这样做，所以，我认为英国处于强势地位，德国显然制造了很多机器人，工业机器人，我认为一般来说，这些国家制造任何类型的机器人，即使它们看起来有些传统，都可以。

我确实认为存在安全问题，尤其是对于人形机器人，因为，至少汽车不能轻易地把你追进这座大楼，或者把你从树上追下来，或者，你可以跑上一段楼梯，然后远离特斯拉。但是如果你有一个人形机器人，它基本上可以在任何地方追你，所以，我认为我们应该有某种硬连线，本地截止，你不能从互联网更新，所以任何可以从互联网更新软件的东西，显然都可以被覆盖，但如果你有一个本地的，某种关闭开关，比方说，你有一个关键字或其他东西，然后将机器人置于安全状态，某种本地化的安全状态能力，一个关闭开关，你不必离机器人太近。我们到处都有数以百万计的这样的东西。我知道，我是说这是我们应该非常关心的事情，因为如果机器人可以跟随你到任何地方，那么，如果有一天他们得到了软件更新，他们就不再那么友好了怎么办？我们目前正在研究一部詹姆斯·卡梅隆的电影（即《终结者》）。

苏纳克：

有趣的是，在我们今天的会议上，有人提出了与你相同的观点。他们在讨论电影时，并没有特指詹姆斯·卡梅隆，而是在讨论他的电影。他们认为，如果你深入思考，你会发现这不仅仅是他的电影，而是所有的电影，无论是训练、地铁还是公共汽车，所有这些电影的情节都是相同的。基本上，所有这些电影都以人们找到一种方法关闭它而结束。他们的观点与你关于关闭开关的重要性的观点相同。所以，尽管所有的技术都很棒，但基本上，同一部电影被重复播放了50次，我们都看过，而且所有这些电影都以几乎相同的方式结束，即有人找到了一种方法来关闭它。你曾经提到过类似的观点。这是一个不太明显的地方。

马斯克：

但也许这就是人工智能的一种测试。我们应该问，你最喜欢的詹姆斯·卡梅隆的电影是什么？（笑）

问题四：

我是人工智能和机器学习扩展的创始人，位于英格兰北部利兹的第三个人工智能中心。自ChatGPT推出以来，我们发现网络钓鱼攻击使用更复杂的语言模式的情况真正增加了。我们如何保护企业和消费者，让他们更好地信任这项技术？我们如何带领他们与我们一起踏上这段旅程？

马斯克：

我认为我们实际上不应该过度信任这项技术。这是一个重大的挑战，因为我们已经到了一个地步，即使是开源的人工智能也可以通过人类测试。所以，当人工智能能够比人类更好、更快地通过人类测试时，我们应该如何进行测试呢？这是一个现实问题，我实际上没有很好的解决方案。

我们在X平台上试图解决的一个问题是如何处理这个问题，因为我们确实处于这样的境地：即使使用开源的、现成的人工智能，你也不需要排序就可以领先于该领域，你实际上可以比人类更好地通过这些测试。这就是为什么我们在考虑，也许我们应该每年收取一美元或一英镑的费用，这是一笔很小的钱，但制造一百万个机器人仍然非常昂贵，特别是如果你需要一百万种支付方式，然后你很快就会用完被盗的信用卡。这就是我们的想法，我们可能需要收取一些非常少量的钱，每天0.3美分，有效地应对人工智能驱动的机器人的攻击。

这仍然是一个日益严重的问题，但我认为，明年这可能是一个无法克服的问题。所以，然后你必须担心信息的操纵，让某些东西看起来很受欢迎，但实际上并非如此，因为人工智能驱动的机器人的所有这些点赞和转发都推动了它的发展。因此，这就是为什么我认为它不可避免地会导致一些小额付款，从而大幅增加机器人的成本。坦白说，我认为任何不这样做的社交媒体系统可能都会被机器人淹没。

苏纳克：

我想我的一般回答是，我们需要表明我们能够降低风险，这样人们才能信任这项技术。实际上，过去几天安全峰会的内容只是表明，我们正在投资安全研究所，让能够对这些事情进行研究的人来找出我们如何缓解这些问题。我们必须快速完成，并且必须不断迭代。因为我认为在座的所有人都相信这项技术可以非常强大，但我们必须确保我们带领人们与我们一起踏上这段旅程，我们正在处理其中的风险。正如我之前所提到的，我们仍有许多工作需要完成。在过去的几天里，我觉得我们在这方面取得了显著的进步，因为我们致力于关注积极的方面并管理这些事务。然而，这需要我们采取行动。这就是过去几天的工作内容。

Musk，你的故事和类比是我们研究的一部分。实际上，我们的工作组团队在昨天发布并介绍了这个研究，我不确定你是否已经看到了。这项研究主要是关于如何利用人工智能在社交媒体上创建大量虚假个人资料，然后将特定信息渗透到特定群体中。这就是你的观点，这是一项免费的事情。现在，你甚至可以用一分钱买到价值100美元的东西，这真是荒谬。

如果你考虑一下社区或城镇层面的社交网络，你会发现并没有那么多虚假的个人资料。然而，突然之间，它们无处不在。这也引发了一些可能很重要的当地问题。而且，团队已经运行了它的样子的版本。突然间，他们与每个人互动，然后传播错误信息。这是一个真正的挑战。实际上，这是我们昨天发表的关于错误信息的研究的一部分。

马斯克：

完全正确。关于你的观点，你甚至不需要窃取某人的照片，因为这是可追踪的。但实际上你可以创建一个人的新形象，看起来很现实，但不存在，然后创建一个传记，现实，但不存在，然后集体这样做。实际上，你能够判断的唯一方法就是语法太好了。没有错别字吗？

苏纳克：

现在，有人向我挥手，因为我认为我们已经没时间了。我知道我们可以回答最后一个非常简短的问题。

问题五：

埃隆，我有一个关于xPlatform的问题。我们可以做一些简单的事情吗，尤其是在视觉媒体方面？你提到过，让像你这样的人说出和做你从未说过或做过的事情是相当简单且有效的自由。我们可以做一些像加密媒体签名之类的事情吗？

我来自Adobe，我们正在研究这个项目，推特曾是会员，我很想看到x回来。对媒体进行数字签名不仅可以表明人工智能创建的内容，还可以表明哪些内容来自相机，哪些内容是真实的，从而使人们对可以病毒式传播的媒体产生信任感。

马斯克：

实际上，这听起来是个好主意。因此，如果某种身份验证方式会很好。是的，这听起来是个好主意。我们也许应该这样做。

苏纳克：

事实上，就这一点而言，这对于我的工作人员来说特别相关，对吗？我已经遇到过这样的情况：被篡改的图像到处都是负面的。当每个人都意识到这是假的并且我们应该停止发送它时，损害已经造成了。事实上，我们今天再次进行了反思。如果你认为明年，我想，美国、印度，我想印度尼西亚都会举行选举。大概在这里。海量新闻。事实上，明年世界上只有很大一部分人口会投票，对吗？而且还有欧盟选举。要知道，其实摆在我们面前的正是这些问题。明年将是全球范围内的重大选举，这可能是第一批出现这一问题的选举。因此，我认为，对于那些想要我们民主的完整性的人们来说，弄清楚我们如何管理这一点是一项至关重要的使命。

马斯克：

其中一些非常有趣，比如穿着羽绒服的教皇。你见过那个吗？这是惊人的。但是，我仍然遇到认为这是真实的人。我在思考，他在七月份穿羽绒服的可能性有多大？在罗马，他肯定会出汗。然而，他看起来确实非常潇洒。实际上，我认为人工智能时尚将成为现实。

因此，出于爱意和忧郁，我们生活在最有趣的时代。我认为，80%的可能性是好的，20%的可能性是坏的。我认为，如果我们认识到并谨慎对待不好的部分，总的来说，这将是我们期望的未来，甚至可能是更好的未来。在某种程度上，它实际上是一个公平器，一个均衡器，我认为每个人都将有机会获得商品、服务和教育。因此，我认为这可能会带来更多的人类幸福。所以，我可能会以乐观的态度离开。

苏纳克：

这是一个完美的结束。我们都希望有更美好的未来。我认为它就在那里，它的承诺肯定是存在的。在座的很多人，包括你们自己，都在努力实现这一目标。我们政府的工作是确保一切安全发生。但根据过去几天的谈话，我对我们能够实现这一目标更加充满信心。我很荣幸也很高兴您能来到这里。

马斯克：

非常感谢你的邀请。