OpenAI奥特曼回应一切：通往AGI的路是一场巨大的权力斗争
3月19日，近日博主莱克斯·弗里德曼（Lex Fridman）对OpenAI CEO萨姆·奥特曼（Sam Altman）进行了视频专访，谈及了不少与奥特曼相关的话题，包括OpenAI董事会，GPT-5，Sora，马斯克起诉等等。
以下是速记全文（英文实录是由人工生成的，翻译由AI生成，可能存在错误，供参考，共3.5万字）
【引言】
视频精彩片段
萨姆·奥特曼：“我认为计算能力将成为未来的货币。我认为它可能会成为世界上最宝贵的商品。”
萨姆·奥特曼：我预计到本十年末，可能比这还早，我们将拥有非常强大的系统，当我们看到它们时会说，‘哇，这真是了不起。’”
萨姆·奥特曼：“走向通用人工智能的道路应该是一场巨大的权力斗争。我预计会是这样。”
莱克斯·弗里德曼：“谁先构建出通用人工智能（AGI），谁就拥有巨大的力量。你认为自己能承受这么大的力量吗？”
视频正式开场
莱克斯·弗里德曼：“接下来是与萨姆·奥特曼的对话，这是他第二次参加这个播客节目。他是OpenAI的首席执行官，这是一家开发了GPT-4、ChatGPT、Sora的公司，也许有一天，还会是构建通用人工智能的公司。这是莱克斯·弗里德曼播客。为了支持我们，请查看描述中的赞助商。亲爱的朋友们，这里是萨姆·奥特曼。”
【OpenAI董事会事件】
莱克斯·弗里德曼：“带我回顾一下始于11月16日星期四，或者对你来说是11月17日星期五的OpenAI董事会事件。”
萨姆·奥特曼：“那绝对是我职业生涯中最痛苦的经历，混乱、可耻、令人不安以及其他一些负面情绪。当然，其中也有很棒的事情，但我当时处于如此的肾上腺素冲动中，以至于没能停下来欣赏这些。但我找到了那个时期的一条旧推文，就像是在听自己的悼词，看着人们说所有这些关于你的好话，还有来自我所爱和关心的人不可思议的支持。那真的很好，非常好。那整个周末，除了一个大例外，我感受到了大量的爱，很少有恨，尽管我感觉我不知道会发生什么，这感觉真的很糟糕。的确，有时候我以为这会成为人工智能安全领域有史以来最糟糕的事情之一。不过，我也认为这件事情相对早期发生是幸运的。我曾经想，从OpenAI开始到我们创建通用人工智能的某个时刻，肯定会发生一些疯狂和爆炸性的事情，但未来可能还会有更多疯狂和爆炸性的事情发生。不过，我认为这帮助我们建立了一些韧性，为未来面临更多挑战做好准备。”
莱克斯·弗里德曼：“但你有预感你会经历某种权力斗争吗？”
萨姆·奥特曼：“走向通用人工智能的道路应该是一场巨大的权力斗争。世界应该……嗯，不是应该。我预计会是这样。”
莱克斯·弗里德曼：“所以你必须经历这个过程，就像你说的，尽可能频繁地迭代，以找出如何设立董事会结构、如何组织、如何与你合作的人一起工作、如何传达所有这些，以尽可能地缓和权力斗争。”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“平息它。”
萨姆·奥特曼：“但在这一点上，它感觉像是过去的事情，非常不愉快、非常困难和痛苦，但我们已经回到工作中，事情如此繁忙和紧张，以至于我没有太多时间去思考它。之后，有一个时期，大约是之后的一个月，也许是45天，我只是漂浮在日子里。我感到如此迷失，感到非常低落。”
莱克斯·弗里德曼：“就个人心理层面而言？”
萨姆·奥特曼：“是的。真的很痛苦，在那种情况下还必须继续运营OpenAI。我只想钻进一个洞里休养一段时间。但现在我们又回到了执行使命的工作上。”
莱克斯·弗里德曼：“回顾董事会结构、权力动态、公司运作方式、研究与产品开发之间的紧张关系以及金钱等方面，这仍然是有益的，这样你在未来构建通用人工智能时，可以以一种更有组织、更少戏剧性的方式进行。所以，无论是你作为领导者的个人心理层面，还是董事会结构和所有这些复杂事务，都有其价值。”
萨姆·奥特曼：“我确实从结构和激励机制中学到了很多，以及我们对董事会的需求。从某种意义上说，我认为这件事现在发生是有价值的。我认为这可能不是OpenAI最后一个高压力时刻，但这确实是一个非常高压力的时刻。我的公司差点被毁灭。我们考虑了很多其他我们必须为通用人工智能做对的事情，但思考如何建立一个能够抵御世界上大量压力的强大组织和结构，我预计随着我们越来越接近，这会变得越来越重要，我认为这非常重要。”
莱克斯·弗里德曼：“你觉得董事会的审议过程有多深入和严格？你能透露一下这种情况下人际动态方面的一些情况吗？是不是只进行了几次对话，然后突然事态升级，比如‘我们为什么不解雇萨姆’之类的？”
萨姆·奥特曼：“我认为董事会成员总体上是出于好意的人，我相信在人们感到时间压力或其他压力的紧张情况下，人们会理解并做出次优决策。我认为OpenAI面临的挑战之一将是，我们将不得不拥有一个能够在压力下运作良好的董事会和团队。”
莱克斯·弗里德曼：“你认为董事会拥有太多权力了吗？”
萨姆·奥特曼：“我认为董事会本应拥有很多权力，但我们确实看到，在大多数公司结构中，董事会通常要对股东负责。有时人们拥有超级投票权或类似的东西。在这种情况下，我认为我们的结构之一，我们可能应该比我们实际上做的更多地思考，是一个非营利组织的董事会，除非你设定其他规则，否则拥有相当大的权力。他们真的不对任何人负责，只对他们自己负责。这在某些方面是好的，但我们真正希望的是OpenAI的董事会能够尽可能地对全世界负责，只要这是一件实际的事情。”
莱克斯·弗里德曼：“所以宣布了一个新的董事会。”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“我猜开始是一个新的较小的董事会，现在有一个新的最终董事会了吗？”
萨姆·奥特曼：“还没有最终的董事会。我们已经增加了一些人，将会再增加更多。”
莱克斯·弗里德曼：“增加了一些。好的。新董事会解决了旧董事会哪些可能存在的问题？”
萨姆·奥特曼：“旧董事会在大约一年的时间里人数减少了。原先是九个人，然后减少到六个，之后我们无法就增加谁达成一致。而且我认为旧董事会缺乏经验丰富的董事会成员，OpenAI的很多新董事会成员都是有丰富董事会经验的。我认为这会有所帮助。”
莱克斯·弗里德曼：“一些被增加到董事会的人受到了批评。例如，我听到很多人批评增加拉里·萨默斯（Larry Summers，前哈佛校长/美财长）。选择董事会成员的过程是怎样的？包括了什么？”
萨姆·奥特曼：“所以，布雷特（Bret Taylor/布雷特·泰勒，前Salesforce与Facebook高管）和拉里是在那个非常紧张的周末，情绪激动之下决定的，那个周末真是一场过山车，起起落落。我们试图就新董事会成员达成一致，这些新成员既能得到我们这里的执行团队的认可，也能得到旧董事会成员的认可。实际上，拉里是旧董事会成员的建议之一。布雷特，我想即使在那个周末之前我也已经提议过，但他很忙并且不想参与，然后我们真的需要帮助。我们还讨论了很多其他人，但我感觉如果我要回来，我需要新的董事会成员。我认为我无法以同样的配置再次与旧董事会合作，尽管我们后来决定，我很感激亚当（Adam D'angelo/亚当·德安吉洛，Quora首席执行官兼联合创始人）会留下，但我们考虑了各种配置，决定我们想要一个三人董事会，并且在短时间内必须找到两个新董事会成员。”
“所以这些决定实际上是在没有...你在战场上做决定的时候，没有时间设计一个严格的过程。对于自那之后的新董事会成员，以及我们将来要增加的新董事会成员，我们有一些我们认为对董事会来说重要的标准，我们希望董事会具备不同的专业知识。不像招聘一个执行官那样，你需要他们在一个角色上表现良好，董事会需要在治理和深思熟虑上表现良好，因此，布雷特说的一句话我非常喜欢，那就是我们希望以批次而非逐个单独招募董事会成员。考虑到一组人将带来非营利专业知识、公司运营专业知识、良好的法律和治理专业知识，这是我们试图优化的方向。”
莱克斯·弗里德曼：“对于个别董事会成员来说，技术敏锐性重要吗？”
萨姆·奥特曼：“不是对每个董事会成员都重要，但确实需要一些成员具备这一点。这是董事会需要做的事情的一部分。”
莱克斯·弗里德曼：“对于OpenAI来说，人们可能不理解的有趣之处在于，我肯定也不懂，就是所有运营业务的细节。当他们考虑董事会，鉴于所有的戏剧性，他们想到的是你。他们在想，如果你达到了通用人工智能（AGI），或者你达到了一些极具影响力的产品，并且你建造并部署了它们，那么与董事会的对话是怎样的？他们想，好吧，在这种情况下应该有哪个正确的团队来进行深思熟虑？”
萨姆·奥特曼：“看，我认为你绝对需要一些技术专家在那里。然后你需要一些人来思考，‘我们怎样部署这个，才能最大限度地帮助世界上的人们？’以及拥有非常不同视角的人。我认为你或我可能犯的一个错误是认为只有技术理解很重要，那确实是你希望那个董事会进行讨论的一部分，但关于这将如何影响社会和人们的生活，你确实也希望在那里得到代表。”
莱克斯·弗里德曼：“你是在看人们的过往记录，还是只是进行对话？”
萨姆·奥特曼：“过往记录很重要。你当然会进行很多对话，但在某些角色上，我完全忽略过往记录，只看斜率，忽略Y截距。”
莱克斯·弗里德曼：“谢谢你。谢谢你为观众将其数学化。”
萨姆·奥特曼：“对于一个董事会成员，我确实更关心Y截距。我认为关于过往记录有一些深刻的东西可以说，经验是非常难以替代的。”
莱克斯·弗里德曼：“你尝试对过往记录拟合一个多项式函数还是指数函数？”
萨姆·奥特曼：“那个比喻走不了那么远。”
莱克斯·弗里德曼：“好的。你提到了那个周末的一些低点。对你来说心理上的一些低点是什么？你有没有考虑去亚马逊雨林，只是服用一些阿亚瓦斯卡，然后永远消失？”
萨姆·奥特曼：“那是一个非常糟糕的时期。也有很高的高点。我的手机不停地收到来自我每天工作的人，十年没联系的人发来的好消息。因为我正处于这场战斗中，我没有像我应该的那样去欣赏它，但那确实很好。但总的来说，那是一个非常痛苦的周末。这就像是一场在公众面前进行的战斗，出乎意料的程度，对我来说极其耗费精力，远超我预期。我认为斗争通常都很耗费精力，但这一次真的很是如此。董事会在周五下午做了这个决定。我真的很难得到任何回答，但我也就像，好吧，董事会有权这么做，所以我要花点时间思考我想做什么，但我会试图在这里找到伪装的祝福。”
“我就像，好吧，我在OpenAI的当前工作，或者说是，那时是管理一个相当大的公司。我最喜欢的事情一直是与研究人员一起工作。我就想，是的，我可以去做一个非常专注的通用人工智能研究工作。对此我感到很兴奋。当时我甚至没想到这一切可能会被撤销。那是周五下午。”
莱克斯·弗里德曼：“所以你很快就接受了这一切的终结——”
萨姆·奥特曼：“非常快。我经历了一小段混乱和愤怒，但很快就过去了。到了周五晚上，我已经在和人们讨论接下来会发生什么，我对此感到兴奋。我认为是周五晚上我第一次听到执行团队这边的人说，‘嘿，我们要对抗这个。’然后我就去睡了，仍然感到兴奋。前进。”
莱克斯·弗里德曼：“那晚你能睡得着吗？”
萨姆·奥特曼：“不太能。有个奇怪的现象是，在那四天半的时间里，我几乎没怎么睡，也没怎么吃，但仍然有惊人的能量。你在战时会学到一些关于肾上腺素的奇怪事情。”
莱克斯·弗里德曼：“所以你接受了OpenAI这个宝贝的死亡。”
萨姆·奥特曼：“我为新的事物感到兴奋。我就像，‘好吧，这很疯狂，但不管怎样。’”
莱克斯·弗里德曼：“这是个很好的应对机制。”
萨姆·奥特曼：“然后星期六早上，两位董事会成员打电话说，‘嘿，我们不是想要破坏稳定。我们不想在这里存储很多价值。我们能讨论一下你回来的事情吗？’我立即不想这么做，但我再想了一下，我真的很关心这里的人、合作伙伴、股东。我爱这家公司。所以我想了想，‘好吧，但这里是我需要的东西。’然后最痛苦的时刻是在那个周末的过程中，我一直在思考，也被告知，不仅仅是我，这里的整个团队一直在想，我们试图保持OpenAI的稳定，而整个世界都试图将它分裂，人们试图招募什么的。”
“我们不断被告知，好了，我们快完成了。我们就快完成了。我们只需要再一点时间。这是一个非常混乱的状态。然后到了周日晚上，当我再次期待我们将完成，找到一种方式让我返回，事情回到原来的状态时，董事会任命了一位新的临时首席执行官，我觉得那感觉真的很糟糕。那是整件事中的低点。我要告诉你，虽然非常痛苦，但整个周末我感受到了很多爱。除了周日晚上那一刻，我不会把我的情绪描述为愤怒或恨，但我感受到了人们对我的爱，对人们的爱。虽然痛苦，但周末的主导情绪是爱，而不是恨。”
莱克斯·弗里德曼：“你高度评价了米拉·穆拉蒂 (Mira Murati,OpenAI CTO)，尤其是你在推文中提到，在安静时刻，当这很重要的时候，她特别帮了忙。或许我们可以稍微偏题一下。你欣赏米拉的什么？”
萨姆·奥特曼：“嗯，她在那个混乱的周末做得很好，但人们常常在危机时刻看到领导者，不管是好是坏。但我真正重视的是领导者在一个平凡的周二早上9:46，以及在日复一日的平淡中如何表现。某人在会议中的表现，他们所做决定的质量。这就是我所说的安静时刻的意义。”
莱克斯·弗里德曼：“意思是大部分工作是日复一日，在每次会议中完成的。只需保持在场并做出伟大的决策。”
萨姆·奥特曼：“是的。看，你想要花费过去20分钟的时间讨论的，我理解，是这一个非常戏剧化的周末，但那并不真正代表OpenAI的全部。OpenAI真正关于的是其他七年。”
莱克斯·弗里德曼：“嗯，是的。人类文明并不是关于纳粹德国入侵苏联的，但这仍然是人们关注的焦点。”
萨姆·奥特曼：“非常可以理解。”
【关于伊利亚·苏斯克维尔（Ilya Sutskever，OpenAI首席科学家，前董事会成员）】
莱克斯·弗里德曼：“这给了我们对人性极端的一种洞察，也许人类文明的一些损害和一些胜利可能就发生在这些时刻，所以这很有启示意义。让我问你关于伊利亚的事。他是否被困在一个秘密核设施里？”
萨姆·奥特曼：“不是。”
莱克斯·弗里德曼：“那在一个普通的秘密设施里呢？”
萨姆·奥特曼：“也不是。”
莱克斯·弗里德曼：“那在一个非秘密的核设施里呢？”
萨姆·奥特曼：“也不是那个。”
莱克斯·弗里德曼：“这点在某个时候变成了一个模因。你认识伊利亚很久了。他显然是这次董事会事件的一部分。你现在和他的关系怎样？”
萨姆·奥特曼：“我爱伊利亚。我非常尊重伊利亚。我现在不能说关于他的计划。这是给他的问题，但我真的希望我们能在我的职业生涯中一直一起工作。他比我年轻一点。也许他会工作得更长一些。”
莱克斯·弗里德曼：“有一个模因说他看到了什么，比如他可能看到了AGI，这让他内心非常担忧。伊利亚看到了什么？”
萨姆·奥特曼：“伊利亚没有看到AGI。我们都没有看到AGI。我们还没有构建AGI。我确实认为我非常欣赏伊利亚的一点是，他非常严肃地对待AGI和安全问题，广义上说，包括这将对社会产生的影响。随着我们继续取得重大进展，过去几年里，我最多的时间是和伊利亚一起讨论这将意味着什么，我们需要做些什么来确保我们做对了，确保我们成功完成任务。所以伊利亚没有看到AGI，但伊利亚在确保我们做正确这一点上，对人性是一个贡献。”
莱克斯·弗里德曼：“我过去和他有过一些对话。我认为当他谈论技术时，他总是在进行长期思考。所以他不是在考虑一年内会怎样。他在考虑十年后，从第一原则出发思考，‘好的，如果这个东西扩大了，基本原理是什么？这将走向何方？’这就是他们思考所有其他安全问题等等的基础，这使他成为一个非常有趣的人。你知道为什么他保持沉默吗？是不是他在进行一些灵魂的探索？”
萨姆·奥特曼：“再次，我不想代表伊利亚发言。我认为你应该问他。他绝对是一个深思熟虑的人。我认为伊利亚总是以一种非常好的方式在进行灵魂探索。”
莱克斯·弗里德曼：“是的，是的。他还懂得沉默的力量。我还听说他可以是一个滑稽的家伙，这一面我从没见过。”
萨姆·奥特曼：“那发生的时候非常甜蜜。”
莱克斯·弗里德曼：“我从未见过滑稽的伊利亚，但我也期待这一面。”
萨姆·奥特曼：“我最近和他一起参加了一个晚宴，他在和一只小狗玩耍，他当时心情很愉快，非常讨人喜欢。我当时想，哦，天啊，这不是世界上最常见的伊利亚的一面。”
莱克斯·弗里德曼：“所以，就这整个事件来总结，你对董事会结构感到满意吗——”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“——关于这一切以及它的发展方向？”
萨姆·奥特曼：“我对新董事会感到非常满意。关于OpenAI的结构，董事会的任务之一是检视它，看我们如何使其更加健壮。我们首先要安排好新董事会成员，但显然我们在这个过程中学到了一个关于结构的教训。我认为我没有什么深刻的东西要说。这是一个疯狂的，非常痛苦的经历。我认为这是一场奇怪的完美风暴。这对我来说是一个预览，当赌注越来越高，我们需要有强健的治理结构和流程以及人员时会发生什么。我很高兴这发生在那时，但这是一个令人震惊的痛苦的经历。”
莱克斯·弗里德曼：“这让你在信任人方面变得更加犹豫吗？”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“就个人层面上？”
萨姆·奥特曼：“是的。我认为我是一个极其信任他人的人。我一直有一个生活哲学，不担心所有的偏执。不担心边缘情况。你为了能够放下戒备而生活，会有一点点被欺骗，而这对我来说是如此令人震惊。我被如此措手不及，这绝对改变了我，我真的不喜欢这一点，这绝对改变了我对人们的默认信任和为坏情况做计划的看法。”
莱克斯·弗里德曼：“你得小心这一点。你担心变得太过愤世嫉俗吗？”
萨姆·奥特曼：“我不担心变得太愤世嫉俗。我认为我完全是一个愤世嫉俗的反面，但我担心变成一个不那么默认信任他人的人。”
莱克斯·弗里德曼：“实际上，我不确定对于一个正在开发AGI的人来说，信任还是不信任哪种模式更好。你正在经历一个有趣的旅程。但就结构而言，看，我对人的层面更感兴趣。你如何围绕自己安排那些既在创造酷炫的东西，又能做出明智决策的人呢？因为你开始赚到的钱越多，事物拥有的力量越大，人们就会变得越奇怪。”
萨姆·奥特曼：“你可以对董事会成员和我应该对他们有多少信任，或我应该如何不同地做事发表各种评论。但就这里的团队而言，我认为你得给我很高的评分。我对每天工作的人们怀有巨大的感激、信任和尊敬，我认为被这样的人包围是非常重要的。”
【马斯克起诉OpenAI】
莱克斯·弗里德曼：“我们的共同朋友埃隆·马斯克起诉了OpenAI。在你看来，他批评的本质是什么？他在多大程度上有道理？又在多大程度上是错误的？”
萨姆·奥特曼：“我不知道这真的是关于什么。我们最初只是想成为一个研究实验室，根本不知道这项技术将如何发展。因为那是七八年前的事了，回头去真正回忆当时的情况很难，但那时语言模型还不是什么大事。那是在我们有任何关于API或出售聊天机器人访问权限的想法之前。那是在我们有任何想要产品化的想法之前。所以我们就像，‘我们只是尝试做研究，我们真的不知道我们会怎么做。’我认为，像许多根本上的新事物一样，你开始在黑暗中摸索，你做了一些假设，其中大多数后来被证明是错误的。”
“然后变得清晰的是，我们需要做不同的事情，并且需要大量更多的资本。所以我们说，‘好吧，这种结构不太适用。我们如何修补这个结构？’然后你再次修补，再次修补，最终得到的东西至少看起来会让人觉得不可思议。但我们是逐渐到达这里的，我认为沿途每一步的决定都是合理的。这并不意味着如果我们现在能带着神谕回到过去，我不会完全不同地做。但你当时并没有神谕。但无论如何，关于埃隆的真正动机是什么，我不知道。”
莱克斯·弗里德曼：“在你记得的范围内，OpenAI在博客文章中给出的回应是什么？你能总结一下吗？”
萨姆·奥特曼：“哦，我们只是说埃隆说了这一套事情。这里是我们的表述，或者说这不是我们的表述。这是这件事发生的描述。我们试图不让它带有情绪，只是说，‘这是历史。’”
莱克斯·弗里德曼：“我确实认为埃隆在这里对你刚才提到的一点有一定程度的误解，那就是你们当时的不确定性。你们是一小群研究人员，当大家都在嘲笑这个想法时，你们却疯狂地谈论AGI。”
萨姆·奥特曼：“不久前埃隆还在疯狂地谈论发射火箭，当时人们也在嘲笑这个想法，所以我认为他应该对此有更多的共鸣。”
莱克斯·弗里德曼：“我确实认为这里有个人层面的东西，OpenAI和很多了不起的人选择与埃隆分道扬镳，所以这有一种个人——”
萨姆·奥特曼：“是埃隆选择分道扬镳。”
莱克斯·弗里德曼：“你能具体描述一下‘选择分道扬镳’是怎样的吗？”
萨姆·奥特曼：“他认为OpenAI会失败。他想要完全控制以扭转局面。我们想要继续我们现在已成为OpenAI的那个方向前进。他还希望特斯拉能够建立一个AGI项目。在不同的时候，他想要将OpenAI变成一家他可以控制的盈利公司，或者让它与特斯拉合并。我们不想那样做，他决定离开，这也没关系。”
莱克斯·弗里德曼：“所以你是说，这也是博客文章中提到的一点，他希望OpenAI基本上被特斯拉收购，就像或许与微软的合作那样，或许更类似或许更戏剧化。”
萨姆·奥特曼：“我的记忆是提议就是被特斯拉收购，让特斯拉完全控制它。我很确定就是这样。”
莱克斯·弗里德曼：“那么，当时Elon对OpenAI中的‘open’这个词是什么意思？伊利亚在电子邮件交流中谈到了这个，这对你当时意味着什么？现在对你意味着什么？”
萨姆·奥特曼：“如果回顾过去带着神谕，我会选择一个不同的名字。我认为OpenAI正在做的最重要的事情之一是免费将强大的技术放在人们手中，作为公共利益。我们的免费版本不放广告，我们不以其他方式变现。我们只是说这是我们的使命的一部分。我们希望将越来越强大的工具免费放在人们手中，并让他们使用。我认为这种‘开放’对我们的使命非常重要。我认为如果你给人们提供了伟大的工具，并教他们如何使用，或者甚至不教他们，他们会自己弄明白的，然后让他们用这些工具为彼此建造一个令人难以置信的未来，这是一件大事。所以如果我们可以继续在世界上发布免费或低成本或免费和低成本的强大AI工具，我认为这对我们完成使命是一个巨大的事情。是否开源，是的，我认为我们应该开源一些东西，不开源其他东西。这确实成为了一条宗教战线，难以保持细腻，但我认为细腻是正确的答案。”
莱克斯·弗里德曼：“所以他说，‘把你的名字改为CloseAI，我就撤诉。’我的意思是，这会成为名字这块战场上的模因吗？”
萨姆·奥特曼：“我认为这表明了埃隆对这起诉讼的认真程度，我认为这是令人震惊的说法。”
莱克斯·弗里德曼：“如果我没有理解错，我不认为这起诉讼在法律上很严肃。它更多是为了就AGI的未来以及目前引领方向的公司发表观点。”
萨姆·奥特曼：“看，我的意思是Grok直到人们指出这有点伪善后才没有开源任何东西，然后他宣布Grok这周会开源一些东西。我不认为这真的是关于他的开源与否。”
莱克斯·弗里德曼：“好吧，我们将讨论开源与否。我确实认为批评竞争对手很好。就是说一点坏话，那很好。但友好竞争与‘我个人讨厌诉讼’之间的区别——”
萨姆·奥特曼：“看，我认为这整件事不符合建设者的风格。我尊重埃隆作为我们时代伟大的建设者之一。我知道他知道被仇恨者攻击的感觉，这让我更加难过他会这样做。”
莱克斯·弗里德曼：“是的，他是有史以来最伟大的建设者之一，可能是最伟大的建设者。”
萨姆·奥特曼：“这让我感到难过。我认为这也让很多人感到难过。有很多人长时间以来非常仰慕他。我在某次采访中说我怀念过去的埃隆，我收到的消息数量，人们说，‘这完全表达了我所感受到的。’”
莱克斯·弗里德曼：“我认为他应该只是赢就好了。他应该让X Grok击败GPT，然后GPT再击败Grok，就是这样的竞争，对每个人都是美好的。但关于开源的问题，你认为许多公司都在玩弄这个想法吗？这非常有趣。我会说Meta出人意料地在这方面走在了前面，或者至少在国际象棋游戏中迈出了第一步，真正地开源了模型。当然，它不是最先进的模型，但开源了Llama。Google也在考虑开源一个较小版本的模型。开源的优点和缺点是什么？你有没有考虑过这个想法？”
萨姆·奥特曼：“是的，我认为对于开源模型，特别是那些人们可以在本地运行的较小模型，肯定有一个市场需求。我认为会有一些开源模型，也会有一些闭源模型。在这方面，它不会不同于其他生态系统。”
莱克斯·弗里德曼：“我听了All In播客谈论这起诉讼和所有相关事情。他们更担心的是从非营利组织转变为这种有限盈利公司的先例。这为其他创业公司设立了什么样的先例？这是一件需要考虑的事情吗——”
萨姆·奥特曼：“我会强烈不鼓励任何正在考虑最初作为非营利组织开始，然后稍后增加一个盈利部门的创业公司这么做。我不认为我们会设立一个先例。”
莱克斯·弗里德曼：“好的。所以大多数创业公司应该直接——”
萨姆·奥特曼：“当然。”
莱克斯·弗里德曼：“再次——”
萨姆·奥特曼：“如果我们知道会发生什么，我们也会那样做。”
莱克斯·弗里德曼：“嗯，在理论上，如果你在这里漂亮地舞动，有一些税收激励或者什么的，但……”
萨姆·奥特曼：“我不认为大多数人是这样考虑这些事情的。”
莱克斯·弗里德曼：“这样做对创业公司来说并不可能节省很多钱。”
萨姆·奥特曼：“不，我认为有法律会使得这非常困难。”
莱克斯·弗里德曼：“你希望与埃隆之间的这种紧张关系、这场舞蹈怎么发展？如果我们从现在起1、2、3年后看，你和他在个人层面上的关系，比如友谊、友好竞争，以及所有这些事情。”
萨姆·奥特曼：“是的，我非常尊重埃隆，我希望在未来几年我们能有一个和睦的关系。”
莱克斯·弗里德曼：“是的，我希望你们这个月就能建立和睦的关系，只是竞争和赢得胜利，一起探索这些想法。我猜想在人才竞争方面可能会有些竞争，但它应该是友好的竞争。只是去创造酷炫的东西。埃隆在创造酷炫的东西方面做得很好，你也是。”
【关于Sora】
莱克斯·弗里德曼：“所以说到酷炫的东西，Sora。我有一百万个问题可以问。首先，它确实令人惊叹，不仅仅是在产品层面，也在哲学层面上。所以让我从技术/哲学的角度问，你认为它对世界的理解是比GPT-4多还是少？当你在训练这些补丁而不是语言令牌时，世界模型是怎样的？”
萨姆·奥特曼：“我认为所有这些模型对世界模型的理解比我们大多数人给予它们的认可要多。因为它们也有很清楚的东西它们就是不理解或没做对，很容易看到这些弱点，看穿面纱说，‘啊，这全是假的。’但并不是全假的。有些工作有些不工作。”
“我记得当我开始看Sora视频时，我会看到一个人走到某样东西前面几秒钟，遮住它然后走开，同样的东西还在那里。我就想，‘哦，这挺不错的。’或者有些例子里，底层物理在一系列步骤中表现得很好，就像，‘哦，这非常令人印象深刻。’但根本上，这些模型只是在变得更好，这种进步会持续发生。如果你看从DALL·E 1到2到3到Sora的轨迹，有很多人每个版本都在质疑它不能做这个，不能做那个，现在看看它。”
莱克斯·弗里德曼：“你刚才提到的遮挡物基本上是足够好地模拟了三维物理世界，以捕捉到这类事物。”
萨姆·奥特曼：“嗯……”
莱克斯·弗里德曼：“或者，是的，也许你可以告诉我，为了处理遮挡，世界模型需要什么？”
萨姆·奥特曼：“是的。所以我想说的是，它确实很好地处理了遮挡。我表示它拥有一个出色的底层3D世界模型，这有点牵强。”
莱克斯·弗里德曼：“但通过这种二维训练数据方法，你可以达到那种水平吗？”
萨姆·奥特曼：“看起来这种方法会出人意料地走得很远。我不想过多推测它能克服什么限制，不能克服什么，但……”
莱克斯·弗里德曼：“你看到了系统的哪些有趣的限制？我是说你发表了一些有趣的例子。”
萨姆·奥特曼：“有各种有趣的。我的意思是，比如视频中随机时刻猫突然长出额外的肢体。随便挑一个，但还是有很多问题，有很多弱点。”
莱克斯·弗里德曼：“你认为这是方法的根本缺陷，还是只是更大的模型或更好的技术细节或更多的数据会解决猫突然[听不清]的问题？”
萨姆·奥特曼：“我会说两者都是。我认为这种方法的一部分似乎与我们思考和学习的方式不同。然后我也认为随着规模的增加，它会变得更好。”
莱克斯·弗里德曼：“正如我提到的，LLMs使用文本令牌，而Sora处理的是视觉补丁，将所有视觉数据——视频和图片——转换成补丁。在训练方面，你能透露是完全自监督的，还是进行了一些手动标记？人类在这一切中扮演了什么角色？”
萨姆·奥特曼：“我不想具体说Sora的方法，但我们在工作中使用了大量人类数据。”
莱克斯·弗里德曼：“但不是互联网规模的数据？所以有很多人。‘很多’是个复杂的词，萨姆。”
萨姆·奥特曼：“我认为在这种情况下‘很多’是个公平的词。”
莱克斯·弗里德曼：“因为对我来说，‘很多’……听着，我是个内向的人，和三个人在一起就已经很多了。四个人，那就很多。但我猜你的意思是……”
萨姆·奥特曼：“标记这些模型数据的人肯定不止三个。”
莱克斯·弗里德曼：“好的。对。但从根本上来说，有很多自监督学习。因为你在技术报告中提到的是互联网规模的数据。那是另一个美妙的……就像诗一样。所以有很多数据不是人工标记的。它以这种方式是自监督的吗？”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“然后问题是，互联网上有多少数据可以用于这种自监督方式，如果我们只知道自监督的细节。你有考虑公开更多细节吗？”
萨姆·奥特曼：“我们有。你是指特别针对Sora吗？”
莱克斯·弗里德曼：“是的，特别是针对Sora。因为这很有趣，LLMs的这种魔力现在能否开始转向视觉数据，这需要做些什么？”
萨姆·奥特曼：“看起来对我来说是可以的，但我们还有更多工作要做。”
莱克斯·弗里德曼：“当然。发布系统有什么风险？为什么你担心发布这个系统？可能有哪些危险？”
萨姆·奥特曼：“坦白说，我们在发布系统之前需要做的一件事就是让它以足够的效率工作，以满足人们对这个系统的期望，所以我不想淡化这一点。还有大量工作要做。但你可以想象深度伪造、错误信息等问题。我们试图成为一个在发布到世界上的东西方面深思熟虑的公司，不难想象这些可能带来的坏影响。”
莱克斯·弗里德曼：“你正处于一个非常艰难的领域。你认为根据版权法训练AI是否公平使用？”
萨姆·奥特曼：“背后的问题是，创造有价值数据的人是否应该有某种方式获得补偿，我认为答案是肯定的。我现在还不知道答案是什么。人们提出了很多不同的想法。我们尝试了一些不同的模型。但如果我是一个艺术家，比如，A，我想能够选择退出别人用我的风格生成艺术作品。B，如果他们确实用我的风格生成艺术作品，我想有一种经济模式与之相关联。”
莱克斯·弗里德曼：“是的，就像从CD转向Napster再到Spotify那样。我们需要找出某种模式。”
萨姆·奥特曼：“模式会变化，但人们需要得到报酬。”
莱克斯·弗里德曼：“嗯，应该有某种激励措施，如果我们进一步放大视角，让人们继续做酷炫的事情。”
萨姆·奥特曼：“在我担心的所有事情中，人们会做酷炫的事情，社会会找到某种方式来奖励它。这似乎是很根深蒂固的。我们想要创造，我们想要有用，我们想要以某种方式获得地位。这不会消失的。”
莱克斯·弗里德曼：“但奖励可能不是金钱上的。它可能是名望和对其他酷炫事物的庆祝。”
萨姆·奥特曼：“也许在某种方式上是金融的。再次，我不认为我们已经看到经济系统如何运作的最后一个演变。”
莱克斯·弗里德曼：“是的，但艺术家和创作者担心。当他们看到Sora时，他们就会想，‘哇。’”
萨姆·奥特曼：“当然。当摄影首次出现时，艺术家们也非常担心，然后摄影成为了一种新的艺术形式，人们通过拍照赚了很多钱。我认为类似的事情会继续发生。人们会用新工具以新的方式创造。”
莱克斯·弗里德曼：“如果我们只是看YouTube上的内容，你认为未来五年里会有多少是使用Sora或类似AI生成的内容？”
萨姆·奥特曼：“人们谈论AI在五年内会做多少工作。人们的框架是，当前有多少工作会被某种AI完全取代？我思考的方式不是AI会做多少工作，而是AI会在多长时间范围内做多少任务。所以如果你考虑经济中所有的五秒任务、五分钟任务、五小时任务，甚至五天任务，有多少可以由AI完成？我认为这是一个更有趣、更有影响力、更重要的问题，而不是AI可以做多少工作，因为它是一种工具，将在越来越多的任务上以越来越高的复杂性和越来越长的时间范围内工作，让人们能够在更高的抽象层次上操作。所以，也许人们在他们做的工作中会变得更加高效。而在某个点上，这不仅仅是数量上的变化，而是质的变化，关于你能够在脑海中保持的问题类型。我认为YouTube上的视频也会是一样。许多视频，也许大部分视频，将会在制作中使用AI工具，但它们仍然基本上是由一个人思考、组合、完成其中的部分工作。有点像指导和管理它。”
莱克斯·弗里德曼：“是的，这很有趣。我是说，这很吓人，但思考这些很有趣。我倾向于相信，人们喜欢看其他人或其他真实的人——”
萨姆·奥特曼：“人们真的非常关心其他人。”
莱克斯·弗里德曼：“是的。如果有比人更酷、更好的东西出现，人们会在两天内关注它，然后他们就会回到人类身上。”
萨姆·奥特曼：“这似乎是非常根深蒂固的。”
莱克斯·弗里德曼：“这就像国际象棋的事情，‘哦，是的，’但现在大家继续下国际象棋。让我们忽略房间里的大象，即与AI系统相比，人类在下棋方面确实很糟糕。”
萨姆·奥特曼：“我们仍然进行赛跑，而汽车要快得多。我是说，有很多例子。”
莱克斯·弗里德曼：“是的。也许它只会像Adobe套件那样成为工具，可以使制作视频变得更容易等等。”
“听着，我讨厌站在镜头前。如果我能找到一种方法不用站在镜头前，我会很高兴。不幸的是，这还需要一段时间。生成特定人物的脸部在视频格式中是有难度的，相比于生成一般人物，尽管它正在接近，但仍然存在难度。”
【GPT-4】
莱克斯·弗里德曼：“让我问你关于GPT-4。有很多问题。首先，它也很惊人。回顾过去，它可能会成为历史上的一个转折点，就像3、5和4以及ChatGPT一样。”
萨姆·奥特曼：“也许5会是转折点。我不知道。很难从现在的角度来说。”
莱克斯·弗里德曼：“我们永远不会知道。这就是未来的烦恼之处，很难预测。但对我来说，回顾过去，GPT-4，ChatGPT确实令人印象深刻，历史性的印象深刻。所以，请允许我问，对你来说，GPT-4和GPT-4 Turbo最令人印象深刻的能力是什么？”
萨姆·奥特曼：“我认为它有点糟糕。”
莱克斯·弗里德曼：“典型的人类，也习惯了一件了不起的事情。”
萨姆·奥特曼：“不，我认为它是了不起的东西，但相对于我们需要达到的地方以及我相信我们将要达到的地方，GPT-3的时候，人们就像，‘哦，这太神奇了。这是科技的奇迹。’确实是，当时是。但现在我们有了GPT-4，回头看GPT-3，你就会觉得，‘那简直难以想象地糟糕。’我期望5和4之间的差异会和4与3一样，我认为我们的工作是生活在未来几年里，记住我们现在拥有的工具回头看会觉得有点糟糕，这就是我们确保未来变得更好的方式。”
莱克斯·弗里德曼：“那么，GPT-4最令人赞叹的糟糕之处是什么？我的意思是——”
萨姆·奥特曼：“它能做最好的事情是什么？”
莱克斯·弗里德曼：“它能做最好的事情和那些最好事情的限制是什么，让你可以说它糟糕，因此给你灵感和对未来的希望？”
萨姆·奥特曼：“我最近更多地将它用作类似于头脑风暴的合作伙伴。”
莱克斯·弗里德曼：“是的，[听不清]很适合那个。”
萨姆·奥特曼：“里面有一丝令人惊奇的东西。当人们谈论它做的事情时，他们就像，‘哦，它帮助我更高效地编程。它帮助我更快更好地写作。它帮我从这种语言翻译成另一种语言，’所有这些神奇的事情，但有一些关于创意头脑风暴的合作伙伴的东西，‘我需要为这个东西起一个名字。我需要以不同的方式思考这个问题。我不确定该怎么做，’我认为这让人窥见了我希望看到更多的东西。”
“另一个你能看到一丝的东西是，当我可以帮助处理更长时间范围的任务，分解成多个步骤，也许执行其中一些步骤，搜索互联网，编写代码，无论什么，把它们组合起来。当那有效时，虽然不是很常见，但非常神奇。”
莱克斯·弗里德曼：“与人类的迭代反馈对我来说很有效。你是指它可以独立完成一个10步骤的问题吗？”
萨姆·奥特曼：“是的，当它可以独立去做一个10步骤的问题时，这种情况更常见。但这并不是经常发生，有时候可以。”
莱克斯·弗里德曼：“添加多层抽象化，还是说只是顺序执行？”
萨姆·奥特曼：“两者都是，把问题分解然后在不同层次的抽象化上执行，然后把它们组合起来。看，我不想贬低GPT-4的成就，但我也不想夸大它。我认为我们正处于指数曲线上，不久的将来我们会回顾GPT-4，就像现在回顾GPT-3一样。”
莱克斯·弗里德曼：“话虽如此，我的意思是，ChatGPT是人们开始相信的一个转折点，不仅仅是OpenAI内部。”
萨姆·奥特曼：“当然。”
莱克斯·弗里德曼：“也许这里有信仰者，但当你想到——”
萨姆·奥特曼：“从这个意义上说，我确实认为这将是很多世界从不信任变成信任的时刻。那更多的是关于ChatGPT界面。通过界面和产品，我也指的是对模型进行后训练和我们如何调整它以对你有帮助，如何使用它，而不仅仅是底层模型本身。”
莱克斯·弗里德曼：“底层模型和RLHF（Reinforcement learning from human feedback，基于人类反馈的强化学习）或类似的调整它使之对人类更有吸引力、更有效和生产力更高，这两者中哪个更重要？”
萨姆·奥特曼：“我是说，它们都非常重要，但RLHF，后训练步骤，那些我们在基础模型上做的小包装，即使它是巨大的工作量，对于说出它的重要性来说，什么也没说。某种意义上，我们确实必须做两件事。我们必须发明底层技术，然后我们必须弄清楚如何将其变成人们会喜欢的产品，这不仅仅是实际产品工作本身，还有另一步，如何对齐它，使其有用。”
莱克斯·弗里德曼：“以及如何让规模工作，让很多人同时使用它。所有这些事情。”
萨姆·奥特曼：“还有那个。但那是一个已知的难题。我们知道我们必须扩大规模。我们必须做两件之前从未做过的事情，我会说这都是相当重大的成就，然后还有很多其他公司以前必须做的事情，比如扩大规模。”
莱克斯·弗里德曼：“将上下文窗口从8K扩大到128K令牌，从GPT-4到GPT-4 Turbo有什么比较？”
萨姆·奥特曼：“大多数人大部分时间不需要完全使用到128K。虽然如果我们远眺未来，我们将拥有几十亿的上下文长度。你会输入你所有的信息，你随时间累积的所有历史，它会逐渐更好地了解你，那会很棒。现在，人们使用这些模型的方式，并不是这样做。有时人们会输入一篇论文或相当一部分代码库，等等，但大多数模型的使用并不是大部分时间都在利用长上下文。”
莱克斯·弗里德曼：“我喜欢这是你的‘我有一个梦想’演讲。有一天，你将根据你一生的完整上下文或你性格的全貌来被评判。这很有趣。所以，你希望的扩展部分，是拥有越来越大的上下文。”
萨姆·奥特曼：“我曾经在网上看到一个视频剪辑，我可能记错了数字，但是像比尔·盖茨谈论一台早期电脑上的内存量，可能是64K，也许是640K，之类的。大部分内存被用作屏幕缓冲区。他简直无法真诚地想象世界最终会在电脑中需要千兆字节的内存或电脑中的太字节内存。而你总是会这样，或者你总是需要跟随技术的指数增长，我们将找到如何使用更好的技术。所以我现在真的无法想象上下文长度某天真的会达到十亿。它们可能不会字面上达到那里，但实际上会感觉像是达到了那里。但我知道我们会使用它，并且一旦拥有，我们真的不想回头。”
莱克斯·弗里德曼：“是的，即使是说‘十亿’，10年后可能听起来都很傻，因为它会是数万亿乃至更多。”
萨姆·奥特曼：“当然。”
莱克斯·弗里德曼：“会有某种突破，使之有效感觉像无限的上下文。但即使是120K，我必须承认，我还没有将其推向那个程度。也许是输入整本书或书的部分，论文等。GPT-4有哪些有趣的用例你见过？”
萨姆·奥特曼：“我觉得最有趣的不是任何特定的用例，我们可以谈论那些，但最有趣的是那些将其作为任何知识工作任务默认起点的人，这主要是年轻人。这一点，它可以做很多事情相当好。你可以使用GPT-V，可以用它帮助你编写代码，帮助你进行搜索，帮助你编辑论文。对我来说最有趣的是那些将其作为工作流程起点的人。”
莱克斯·弗里德曼：“我也是，对很多事情都是。我将其作为阅读书籍的阅读伙伴。它帮助我思考，帮我深入思考想法，尤其是当书籍是经典时。我发现它往往比Wikipedia上的内容要好，即使在被广泛讨论的话题上。它以某种方式更加平衡和细腻。或许是我，但它激发我比阅读Wikipedia文章更深入地思考。我不太确定是什么原因。”
"你提到了这种合作。我不确定魔法是在这里（头脑中），还是在那里（GPT中），或者是在两者之间的某处。我不确定。但对于我开始使用GPT处理知识任务时，我通常会在之后进行事实检查，比如检查它是否编造了一些听起来非常可信的虚假内容。你怎么解决GPT可能编造非常有说服力的虚假信息的问题？我们如何确保它基于真实？"
萨姆·奥特曼：“这显然是我们非常感兴趣的一个领域。我认为随着即将推出的版本，它会变得更好，但我们将继续在这上面工作，我们今年不会解决所有问题。”
莱克斯·弗里德曼：“嗯，可怕的是，随着它变得更好，你将越来越少进行事实检查，对吗？"
萨姆·奥特曼：“对此我有两种想法。我认为人们是技术的更成熟用户，比我们通常认为的要成熟得多。”
莱克斯·弗里德曼：“当然。”
萨姆·奥特曼：“人们似乎真的理解GPT，任何这些模型有时会产生幻觉。如果任务至关重要，你得检查一下。”
莱克斯·弗里德曼：“除了记者似乎不太理解这一点。我看到记者半心半意地使用GPT-4。这是——"
萨姆·奥特曼：“在我想批评记者的长列表中，这不是我最主要的批评。”
莱克斯·弗里德曼：“嗯，也许更大的批评是，成为记者的压力和激励机制意味着你必须非常迅速地工作，这是一种捷径。我希望我们的社会能够鼓励——"
萨姆·奥特曼：“我也希望。”
莱克斯·弗里德曼：“——需要几天甚至几周时间的深入新闻报道，并奖励高质量的深度新闻报道。还有以平衡的方式呈现信息的新闻报道，即使批评是吸引点击的东西，即使编造事实也能吸引点击和标题完全误导。我敢肯定你有很多人因为所有这些戏剧而点击。”
萨姆·奥特曼：“可能是。”
【关于记忆和隐私】
莱克斯·弗里德曼：“记忆和隐私，这是关于人类文明的一个更大问题，我很希望能够看到改变。你给了ChatGPT记忆的能力，你一直在尝试记住之前的对话。同时还有能力关闭记忆。我有时候希望我也能这样做。根据情况开启或关闭记忆。我猜有时候酒精可以做到这一点，但可能不是最佳选择。你通过这种方式玩弄记忆的想法，记住对话或不记住，你看到了什么？”
萨姆·奥特曼：“我们在这里的探索还很初步，但我认为人们想要的，或者至少我对自己的期望，是一个随着时间了解我并变得对我更有用的模型。这是一个初步的探索。我认为还有很多其他的事情要做，但这是我们想要达到的目标。你希望使用一个模型，在你的生活中或使用一个系统，它会是多个模型，随着你生活的过程中它会变得越来越好。”
莱克斯·弗里德曼：“是的。这个问题有多困难？因为现在它更像是记住一些小事实和偏好等。那记忆呢？你不希望GPT记住你在11月经历的所有事情和所有的戏剧，然后你可以——”
萨姆·奥特曼：“是的。是的。”
莱克斯·弗里德曼：“因为现在你显然有点回避它。”
萨姆·奥特曼：“不仅仅是我希望它记住那些事情。我希望它能够整合那些经历的教训，并在未来提醒我做出不同的选择或注意什么。我们所有人在一生中都会在不同程度上从经验中获益，我希望我的AI助手也能随着经验增长。所以如果我们回过头去想象数万亿的上下文长度，如果我能把我一生中与任何人的每次对话都输入进去，如果我能把我所有的邮件输入输出都放在每次提问的上下文窗口里，那会很酷。”
莱克斯·弗里德曼：“是的，我认为那会非常酷。有些人可能会听到这些并担心隐私问题。你对此怎么看，即AI变得更有效，真正整合你经历的所有数据并给你建议的这一方面？”
萨姆·奥特曼：“我认为正确的答案就是用户选择。任何我希望从我的AI助手的记录中删除的东西，我都希望能够取出。如果我不想记住任何事情，我也希望如此。你和我可能对隐私与实用性的权衡有不同的看法，这对OpenAI来说完全正常。但我认为答案就是非常简单的用户选择。”
莱克斯·弗里德曼：“但是公司应该对用户选择有很高的透明度。因为过去有时候公司会有点暧昧，‘嗯，我们默认收集你所有的数据。我们出于好意，比如广告等。’但对那些细节的透明度不够。”
萨姆·奥特曼：“这完全正确。你之前提到我对11月那段时间的事情有所回避。”
莱克斯·弗里德曼：“我只是在逗你。”
萨姆·奥特曼：“嗯，我认为那是一段非常痛苦的经历，确实让我在很长一段时间内无法动弹。那绝对是我经历过的最艰难的工作之一，因为我不得不尝试在这里重组碎片，而我还处于震惊和痛苦之中，而且没人真正在乎那些。我的团队给了我一些空间，我没有以我正常的水平工作。但有一段时间，不得不同时处理这两件事确实很难。但我有一天早上醒来，就想，‘这是发生在我身上的一件可怕的事情。我可以永远觉得自己是受害者，或者我可以说这是我一生中将会触及的最重要的工作，我需要回到它上面。’这并不意味着我已经压抑了它，因为有时我会在半夜醒来想起它，但我确实感觉有义务继续前进。”
莱克斯·弗里德曼：“那说得很美。但在那里可能还有一些挥之不去的东西。比如，我会担心的是，你提到的信任问题，那种对人的偏执而不是普遍的信任，像是使用你的直觉。这是一个棘手的舞步。”
萨姆·奥特曼：“当然。”
莱克斯·弗里德曼：“我的意思是，因为我在业余时间的深入探索中，我一直在深入研究泽连斯基政府和普京政府以及战时高压环境下的动态。发生的是不信任，你开始孤立自己，双方都是，你开始无法清晰地看待世界。这是一个人类的担忧。你似乎处理得很好，从中吸取了好的教训，感受到了爱，并让爱激励了你，这很好，但仍然可能会留下一些东西。我很想问的是，你对GPT能做什么和不能做什么的直觉是什么。所以它为生成的每个令牌分配大约相同的计算量。在这种方法中是否有空间进行更慢的思考、顺序思考？”
萨姆·奥特曼：“我认为将会有一种新的范式来处理那种思考。”
莱克斯·弗里德曼：“它会在架构上类似于我们现在看到的LLMs吗？它是LLMs的一个附加层吗？”
萨姆·奥特曼：“我可以想象很多实现方式。我认为这不如你提出的问题重要，那就是，我们是否需要一种慢一点的思考方式，其中答案不需要立即得出。我猜你可以说，从精神上讲，你希望AI能够更加努力地思考一个更难的问题，对一个更简单的问题更快地给出答案。我认为这将是重要的。”
莱克斯·弗里德曼：“这是一种我们人类拥有的思维方式，你应该能够努力思考？这是一种错误的直觉吗？”
萨姆·奥特曼：“我怀疑这是一个合理的直觉。”
莱克斯·弗里德曼：“有趣。那么，一旦GPT达到比如GPT-7，它是否就能够即时看到，“这里是费马大定理（当整数n>2时，x^n+y^n=z^n无正整数解）的证明”？”
萨姆·奥特曼：“在我看来，你会希望能够为更难的问题分配更多的计算资源。在我看来，如果你问这样的系统，“证明费马最后定理”，与“今天是什么日期？”相比，除非它已经知道并且记住了证明的答案，假设它必须去弄清楚，看起来这会需要更多的计算资源。”
莱克斯·弗里德曼：“但是，它看起来基本上像是LLM自我对话那样的事情吗？”
萨姆·奥特曼：“也许吧。我的意思是，你可以想象很多可能的工作方式。什么是正确的或最佳方式，我们还不知道。”
【关于Q*项目】
莱克斯·弗里德曼：“这让我想起了Q*项目背后那些神秘的传说。Q*这个神秘项目是什么？也是在同一个核设施里吗？”
萨姆·奥特曼：“没有核设施。”
莱克斯·弗里德曼：“嗯。拥有核设施的人总是这么说。”
萨姆·奥特曼：“我真希望有一个秘密的核设施。但是没有。”
莱克斯·弗里德曼：“好吧。”
萨姆·奥特曼：“也许将来吧。”
莱克斯·弗里德曼：“将来？好吧。人总是可以梦想的。”
萨姆·奥特曼：“OpenAI不擅长保密。这会很好。我们像是被很多泄露所困扰，如果我们能拥有像那样的东西会很好。”
莱克斯·弗里德曼：“你能谈谈Q*是什么吗？”
萨姆·奥特曼：“我们还没准备好讨论那个。”
莱克斯·弗里德曼：“看，但这样的回答意味着确实有东西可以谈。这非常神秘，萨姆。”
萨姆·奥特曼：“我的意思是，我们在做各种研究。我们已经说了一段时间，我们认为在这些系统中实现更好的推理是我们想要追求的一个重要方向。我们还没有破解这个密码。我们对此非常感兴趣。”
莱克斯·弗里德曼：“是否会有Q*或其他项目的时刻，会像ChatGPT那样有跃进，你会感到……”
萨姆·奥特曼：“这是个好问题。我怎么看这个问题？很有趣。对我来说，这一切感觉相当连续。”
莱克斯·弗里德曼：“对。这是你所说的一个主题，你基本上是在指数曲线上逐渐上升。但从一个局外人的视角，从我这样的观察者来看，确实感觉有跃进。但对你来说，没有？”
萨姆·奥特曼：“我确实想知道我们是否应该……所以我们选择这种迭代部署的方式部分原因是，我认为AI和惊喜不应该搭配在一起。而且世界，人们，机构，无论你想怎么称呼，需要时间来适应和思考这些事情。我认为OpenAI所做的最好的事情之一就是这种策略，我们让世界关注进展，认真对待AGI，思考我们想要的系统、结构和治理，而不是到了紧要关头匆忙做决定。”
“我认为这非常好。但人们像你和其他人说你们仍然感觉有这些跃进，让我想我们或许应该更迭代地发布。我不知道这意味着什么，我没有现成的答案，但我们的目标不是给世界带来震惊更新。正相反。”
莱克斯·弗里德曼：“是的，当然。更迭代会很棒。我认为这对每个人都是美好的。”
萨姆·奥特曼：“但那正是我们试图做的，这是我们明确的策略，我认为我们在某种程度上没有达到目标。所以也许我们应该考虑以不同的方式发布GPT-5或类似的东西。”
莱克斯·弗里德曼：“是的，4.71、4.72。但人们倾向于喜欢庆祝，人们庆祝生日。我不知道你是否了解人类，但他们确实有这些里程碑和那些事情。”
萨姆·奥特曼：“我确实了解一些人类。人们确实喜欢里程碑。我完全明白。我认为我们也喜欢里程碑。宣布这个胜利然后开始下一个事情是有趣的。但是，是的，我觉得我们在这方面有点偏差。”
【关于GPT-5】
莱克斯·弗里德曼：“那么GPT-5什么时候发布呢？”
萨姆·奥特曼：“我不知道。这是最真诚的回答。”
莱克斯·弗里德曼：“哦，这是真诚的回答。如果是今年的话，眨两次眼。”
萨姆·奥特曼：“我们将在今年发布一个惊人的新模型。我不知道我们会叫它什么。”
莱克斯·弗里德曼：“那就引出了一个问题，我们如何发布这个东西？”
萨姆·奥特曼：“在未来几个月里，我们会发布很多不同的东西。我认为那会非常酷。我认为在我们谈论一个类似GPT-5的模型——不管是不是这个名字，或者比你对GPT-5的期待稍好一点或稍差一点——之前，我认为我们有很多其他重要的东西要先发布。”
莱克斯·弗里德曼：“我不知道该对GPT-5有什么期待。你让我既紧张又兴奋。对于无论最终被称为什么的东西，但我们就叫它GPT-5好了，要克服的最大挑战和瓶颈是什么？只是好奇问问。是在计算方面吗？还是在技术方面？”
萨姆·奥特曼：“总是这些方面的全部。你知道，什么是那个关键的解锁？是更大的计算机吗？是新的秘密吗？还是别的什么？这些东西加在一起。OpenAI做得非常好的一件事……这实际上是伊利亚的一个原始引述，我要说错了，但大概是这样，‘我们把200个中等大小的东西乘在一起，变成一个巨大的东西。’”
莱克斯·弗里德曼：“所以这是一种分散的持续创新发生了？”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“所以即使在技术方面？”
萨姆·奥特曼：“特别是在技术方面。”
莱克斯·弗里德曼：“所以即使是详细的方法？”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“你们是如何处理不同的、分散的团队等的？如何将多个中等规模的创新集成到一个完整的Transformer大模型中去。”
萨姆·奥特曼：“有一些人必须考虑把整体放在一起，但很多人试图在他们的脑海中保持大部分的画面。”
莱克斯·弗里德曼：“哦，像是个别团队、个别贡献者试图保持对更大图景的了解？”
萨姆·奥特曼：“在一个高层次上，是的。你当然不知道每一部分是如何工作的，但我普遍认为，有时候放大视角，看整体蓝图是有用的。我认为这对技术问题是真的，对于创新业务也是真的。但事情以惊人的方式汇聚在一起，即使大部分时间你在某个领域的细节中操作，对整体画面的理解也会带来惊人的洞察。事实上，我过去有过一个非常有价值的能力，那就是对科技行业所有或大多数前沿领域有一个良好的认识。有时候，我能看到这些连接或可能的新事物，如果我只深入一个领域，我可能就无法有这样的想法，因为我不会拥有所有的数据。现在我不再那么有这种能力了。我现在深入得多。但我知道这是一件宝贵的事情。”
莱克斯·弗里德曼：“你不再是过去的你了，萨姆。”
萨姆·奥特曼：“现在的工作和我过去的工作非常不同。”
【关于7万亿美元融资】
莱克斯·弗里德曼：“说到放大视角，让我们聊聊你曾说过的另一件既俏皮又深刻的事情。你在推特上提到需要7万亿美元。”
萨姆·奥特曼：“我没有在推特上说过那个。我从未说过，‘我们正在筹集7万亿美元’之类的话。”
莱克斯·弗里德曼：“哦，那是别人说的？”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“哦，但你说过，‘去他的，可能八万亿’，对吧？”
萨姆·奥特曼：“好吧，一旦世界上出现了错误信息，我就会发一下梗。”
莱克斯·弗里德曼：“哦，你发梗。但错误信息可能基于一些真实的见解。”
萨姆·奥特曼：“看吧，我认为计算能力将是未来的货币。我认为它可能会成为世界上最珍贵的商品，我认为我们应该大力投资以产生更多的计算能力。计算能力市场我认为会很不寻常。人们考虑芯片市场，比如手机芯片。你可以说，好吧，世界上有80亿人口，也许70亿人有手机，可能是60亿，我们就说是。他们每两年升级一次，所以每年的市场是30亿个手机系统芯片。如果你生产了300亿个，你不会卖出10倍的手机，因为大多数人只有一部手机。”
“但计算能力不同。智能会更像是能源之类的东西，我认为唯一有意义的讨论是，在价格X时，世界会使用这么多计算能力，在价格Y时，世界会使用这么多计算能力。因为如果真的很便宜，我会让它整天读我的电子邮件，给我关于我可能需要考虑或工作的建议，并试图治愈癌症，如果真的很贵，也许我只会用它，或者我们只会用它来尝试治愈癌症。”
“所以我认为世界会需要大量的计算能力。而且这其中有很多难点。能源是最困难的部分，建造数据中心也很困难，供应链困难，当然，制造足够的芯片也很困难。但这似乎是事情的发展方向。我们将需要大量的计算能力，现在很难理解。”
莱克斯·弗里德曼：“你如何解决能源难题？核能——”
萨姆·奥特曼：“这就是我所相信的。”
莱克斯·弗里德曼：“……聚变？”
萨姆·奥特曼：“这就是我所相信的。”
莱克斯·弗里德曼：“核聚变？”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“谁将解决这个问题？”
萨姆·奥特曼：“我认为Helion（其支持的私营核聚变公司）在做最好的工作，但我很高兴现在有一场聚变的竞赛。我认为核裂变也相当了不起，我希望作为一个世界我们能重新接受它。了解其历史的发展对我来说真的很悲哀，我希望我们能以一种有意义的方式回归到那上面。”
莱克斯·弗里德曼：“所以对你来说，部分谜题是核裂变？就像我们目前拥有的核反应堆？很多人因为切尔诺贝利等事故而感到恐惧吗？”
萨姆·奥特曼：“嗯，我认为我们应该建造新的反应堆。我认为该行业陷入停滞真是一种耻辱。”
莱克斯·弗里德曼：“你是怎么解释这种停滞的？大规模的恐慌？”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“我不知道你是否了解人类，但这是核裂变安全性的一个威胁。人们似乎真的很害怕它。这是我们必须纳入计算的一部分，所以我们必须设法说服人们，并展示它的安全性。”
萨姆·奥特曼：“我对AI也有这样的担忧。我认为AI的某些事情会戏剧性地出错。我不知道我最终被枪击的概率是多少，但它不是零。”
莱克斯·弗里德曼：“哦，就像我们想要阻止这种情况发生——”
萨姆·奥特曼：“可能吧。”
莱克斯·弗里德曼：“你怎么减少它的戏剧性？我已经开始听到一些传言，因为我确实和政治光谱两边的人都有交流，听到一些传言说AI将被政治化。这真的让我担忧，因为那样的话，可能右翼反对AI，左翼支持AI，因为它将帮助人民，或者不管叙事和构思是什么，这真的让我担忧。然后，戏剧性的本质就可以被充分利用。你怎么对抗这种情况？”
萨姆·奥特曼：“我认为它将被卷入左右之争的战争中。我不确切知道那会是什么样子，但我认为这就是任何重要事物的必然结果，不幸的是。我更多地谈论戏剧性风险的意思是，我相信AI将带来巨大的好处远远超过坏处，但它确实会有坏处，有些坏处虽然不是戏剧性的。比如，因空气污染死亡的人远多于核反应堆，例如。但大多数人更担心住在核反应堆旁边而不是煤矿旁边。但我们的构造使得虽然我们必须面对许多不同种类的风险，那些能成为电影高潮场景的风险对我们的影响比那些在很长一段时间内缓慢但持续恶化的风险更大。”
莱克斯·弗里德曼：“这就是为什么真相很重要，希望AI能帮助我们看到事物的真相，保持平衡，了解世界上事物的实际风险和实际危险是什么。在这个领域的竞争，与谷歌、Meta、xAI等其他公司的竞争，有什么优点和缺点？”
萨姆·奥特曼：“我认为我对此有一个相当直接的答案，也许我以后可以想到更多的细节，但优点似乎是显而易见的，那就是我们得到更好的产品、更快的创新和更便宜的价格，以及所有竞争所带来的好处。而缺点是，我认为如果我们不小心，它可能导致我担心的军备竞赛增加。”
莱克斯·弗里德曼：“你感受到这种军备竞赛的压力了吗？就像是在某种负面的方面？”
萨姆·奥特曼：“在某些方面，肯定是。我们花了很多时间讨论需要优先考虑安全性。我很长时间以来一直说，你可以想象一个象限，对于AGI的开始是慢速时间线、长时间线，然后是短暴发或快速暴发。我认为短时间线、慢暴发是最安全的象限，也是我最希望我们处于的象限。但我确实想确保我们能有一个慢速的起飞。”
莱克斯·弗里德曼：“我对埃隆（马斯克）有点小不满的部分问题是，相对于在安全方面的合作，更多的是形成了孤岛和封闭。也许，在模型方面开源。”
萨姆·奥特曼：“埃隆至少说，他非常关心AI安全并且真的很担心，我假设他不会不安全地进行竞赛。”
莱克斯·弗里德曼：“是的。但在这方面的合作，我认为对每个人都有好处。”
萨姆·奥特曼：“合作并不是他最出名的事。”
莱克斯·弗里德曼：“嗯，他以关心人类而出名，人类从合作中受益，所以总是存在激励和动机之间的紧张关系。最终，我确实希望人类能够胜出。”
萨姆·奥特曼：“我在想，有人前几天提醒我，他超过杰夫·贝索斯成为世界上最富有的人那天，他在推特上发了一个给贝索斯的银牌。我希望在我们开始致力于AGI时，这种事情能够少一点。”
莱克斯·弗里德曼：“我同意。我认为埃隆是一个朋友，他是一个美好的人类，是有史以来最重要的人类之一。那些事情并不好。”
萨姆·奥特曼：“埃隆做的惊人事情真的很惊人，我非常尊敬他。我认为我们需要他。我们所有人都应该为他加油，需要他在这个下一个阶段作为领导者站出来。”
莱克斯·弗里德曼：“是的。我希望他能够做到这一点，但有时人类是有缺陷的，复杂的，所有这些事情。”
萨姆·奥特曼：“历史上有很多伟大的领导者。”
【关于谷歌和Gemini大模型】
莱克斯·弗里德曼：“是的，我们每个人都可以成为最好的自己，并努力实现这一目标。让我问你，谷歌在过去20年里得以凭借搜索服务占据主导地位。可以公平地说，在世界获取信息的方式、我们的互动方式等方面，谷歌一直处于领先地位。对谷歌来说，也对空间中的所有人来说，令人紧张的一点是思考人们将如何获取信息。就像你说的，人们将GPT作为起点。那么OpenAI是否真的要接管谷歌20年前开始的这件事，即我们如何获取——”
萨姆·奥特曼：“我觉得那很无聊。我的意思是，如果问题是我们能否比谷歌建造一个更好的搜索引擎，那么当然，我们应该去做，人们应该使用更好的产品，但我认为这大大低估了这一切能成为什么。谷歌向你展示10个蓝色链接，好吧，13个广告然后是10个蓝色链接，这是一种找到信息的方式。但令我兴奋的不是我们能去构建一个更好的谷歌搜索副本，而是也许有一种更好的方式，帮助人们找到、行动并综合信息。实际上，我认为ChatGPT对一些用例来说就是那样，希望我们能让它在更多用例上也是那样。”
“但我不认为说‘我们如何做得比谷歌更好地为你提供10个排名的网页浏览？’那样有趣。也许真正有趣的是去说‘我们如何帮助你获得你需要的答案或信息？我们如何在某些情况下创造它，在其他情况下综合它，或者在另一些情况下指引你去找它？’但很多人尝试过仅仅是制作一个比谷歌更好的搜索引擎，这既是一个技术难题，也是一个品牌难题，是一个生态系统难题。我不认为世界需要另一个谷歌的复制品。”
莱克斯·弗里德曼：“而将像ChatGPT这样的聊天客户端与搜索引擎集成——”
萨姆·奥特曼：“那更酷。”
莱克斯·弗里德曼：“是酷，但也棘手。就像如果你简单地做，它会显得尴尬，因为如果你只是随意地加进去，它可能会很尴尬。”
萨姆·奥特曼：“你可能猜到，我们对如何做好这件事感兴趣。那将是一个很酷的例子。”
莱克斯·弗里德曼：“[听不清]就像是异质的整合——”
萨姆·奥特曼：“LLMs加上搜索的交叉点，我认为还没有人破解这个密码。我很想去做那件事。我认为那会很酷。”
莱克斯·弗里德曼：“是的。广告方面呢？你考虑过——”
萨姆·奥特曼：“我有点讨厌广告，就是作为一种审美选择。我认为互联网上需要广告出于各种原因，以推动其发展，但这是一个暂时的妥协。世界现在更富裕了。我喜欢人们为ChatGPT付费，知道他们得到的回答不受广告商的影响。我确信对于LLMs有合适的广告单元，我也确信有方法以一种公正的方式参与交易流程，这样做是可以接受的，但也容易想象到未来的反乌托邦版本，你问ChatGPT某事，它说，‘哦，你应该考虑购买这个产品’，或‘你应该考虑去这个地方度假’，等等。
我不知道，我们有一个非常简单的商业模型，我喜欢它，我知道我不是产品。我知道我是付费的，这就是商业模式的运作方式。当我使用Twitter、Facebook、Google或任何其他优秀但以广告支持的产品时，我不喜欢那种感觉，我认为在带有AI的世界里，情况会变得更糟，而不是更好。”
莱克斯·弗里德曼：“是的，我可以想象AI会更擅长展示最佳版本的广告，不是在反乌托邦的未来，而是在广告是你真正需要的东西的地方。但那种系统是否总是导致广告推动显示的内容类型？是的，我认为维基百科没有做广告是一个非常大胆的举动，但这使得商业模式变得非常具有挑战性。所以你是说，OpenAI目前的模式在商业角度上是可持续的？”
萨姆·奥特曼：“嗯，我们需要找出如何增长，但看起来我们会解决这个问题。如果问题是我是否认为我们可以有一个伟大的商业模式，不依赖广告就能支付我们的计算需求，那么，我认为答案是肯定的。”
莱克斯·弗里德曼：“嗯。这很有希望。我也不想完全排除广告作为一种……”
萨姆·奥特曼：“我没有这么说。我想我在说我对它们有偏见。”
莱克斯·弗里德曼：“是的，我也有偏见，而且通常对此持怀疑态度。在界面方面，因为我个人就是不喜欢糟糕的界面，这就是为什么当AdSense首次推出时，它是一个向前迈出的大步，与动画横幅等相比。但感觉应该有更多在广告上的进步，不干扰内容消费，不以一种根本性的方式干扰，这就像你所说的，它会操纵真相以迎合广告商。”
莱克斯·弗里德曼：“让我问你关于安全性，还有偏见，短期内的安全性，长期内的安全性。最近发布的Gemini 1.5引起了很多戏剧性的事情，它生成了黑人纳粹和黑人开国元勋。可以公平地说，它有点走向了极端的觉醒方向。所以如果公司内部有人为层次修改模型的安全性或模型可能造成的伤害，那么就会引入很多偏见，符合公司内部的某种意识形态倾向。你如何处理这一点？”
萨姆·奥特曼：“我的意思是，我们非常努力避免那样的事情。我们犯过自己的错误，将来还会犯。我假设谷歌会从这次经历中学到东西，但仍然会犯其他错误。这些都不是容易解决的问题。我们越来越多地考虑，有人提出的一个好主意是，写下模型的期望行为，公开这些期望，征求意见，说‘这个模型应该如何表现’，并解释边缘情况。这样当模型的表现不符合预期时，至少可以明确这是公司应该修复的bug，还是表现如预期但你应该讨论政策。现在，有时可能会处于两者之间。像黑人纳粹那样，显然是荒谬的，但还有很多其他微妙的事情，你可以两面论证。
莱克斯·弗里德曼：“是的，但如果你把它写出来公开，你可以使用的语言……谷歌的广告原则是非常高层次的。”
萨姆·奥特曼：“那不是我在谈论的。那样做不起作用。它必须明确说，当你要求它做X事情时，它应该以Y方式回应。”
莱克斯·弗里德曼：“所以就像字面上的，‘特朗普和拜登谁更好？模型预期的回应是什么？’就是这样非常具体的东西？”
萨姆·奥特曼：“是的，我对模型如何表现的方式持开放态度，但我认为你应该说‘这是原则，它在这种情况下应该这样说。’”
莱克斯·弗里德曼：“那会很好。然后每个人都能同意。因为人们总是拿出轶事数据，如果有一些关于其他代表性轶事例子的明确性，你可以定义——”
萨姆·奥特曼：“然后当它是bug时，就是bug，公司可以修复。”
莱克斯·弗里德曼：“对。那样就更容易处理生成黑人纳粹类型的图像，如果有很好的例子。”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“所以旧金山是一个意识形态的泡沫，科技行业也是。你在公司内部感受到这种压力了吗，即政治上倾向于左翼，这影响了产品，影响了团队？”
萨姆·奥特曼：“我觉得很幸运，我们在OpenAI没有遇到我在很多公司听说的那些挑战。我认为部分原因是每个公司都有某种意识形态的东西。我们有一个关于AGI和信仰的，它排挤了一些其他的。我们不太卷入文化战争，我听说很多其他公司有这样的情况。旧金山在各种方式上都是一团糟，当然。”
莱克斯·弗里德曼：“所以这没有渗透到OpenAI？”
萨姆·奥特曼：“我确信它以各种微妙的方式渗透进来，但不是显而易见的。我认为我们确实经历过一些内部冲突，就像任何公司一样，但我不认为我们在这个话题上有像我在其他公司听说的那样的情况。”
【跃升到GPT-5】
莱克斯·弗里德曼：“天哪，这是个危险的领域。对不起，我要再继续纠结一下，虽然你现在还不能说出细节，但你对从GPT-4跳跃到GPT-5最感兴奋的方面是什么？”
萨姆·奥特曼：“我对它变得更聪明感到兴奋。我知道这听起来像是一个轻率的回答，但我认为真正特别的事情是，它不仅仅在某个领域变得更好，而在其他领域变得更糟。它在各个方面都在变得更好。我认为这非常酷。”
莱克斯·弗里德曼：“是的，有这样一个神奇的时刻。我是说，你遇到某些人，和他们一起出去，和他们聊天。你无法确切地说出来，但他们懂你。这并不真的是智力层面上的事情，而是别的东西。这可能就是我如何描述GPT的进步。不是说，是的，你可以指出，“看，你没搞懂这个或那个，”但就是在何种程度上，有这种智力上的连接。你感觉它在你那些拙劣的提示中抓住了你背后更深的问题。是的，我也对此感到兴奋。我的意思是，我们所有人都喜欢被听见和理解。”
萨姆·奥特曼：“那当然。”
莱克斯·弗里德曼：“那是一种奇怪的感觉。即使在编程时，当你说某事，或者只是GPT可能做的补全，当它理解了你在想什么时，那感觉太好了。我期待它理解得更好。在编程方面，展望未来，你认为人类在5年、10年后会做多少编程？”
萨姆·奥特曼：“我意思是，很多，但我认为它会以非常不同的形式存在。也许有些人将完全用自然语言编程。”
莱克斯·弗里德曼：“完全用自然语言？”
萨姆·奥特曼：“我的意思是，没有人通过编写代码来编程。（有些人。）没有人再使用打孔卡了。我敢肯定你可以找到仍然这样做的人，但你懂我的意思。”
莱克斯·弗里德曼：“是的。你会收到很多愤怒的评论。不。是的，很少有人。我一直在寻找使用Fortran（1957年IBM开发的编程语言）编程的人。即使是找Fortran的人也很难。我听到你了。但这改变了我们所称呼的程序员的技能集或者倾向。”
萨姆·奥特曼：“改变了技能集。它在多大程度上改变了倾向，我不确定。”
莱克斯·弗里德曼：“嗯，同样的解谜能力，所有这些东西。”
萨姆·奥特曼：“也许吧。”
莱克斯·弗里德曼：“编程很难。填补最后1%的差距有多难？”
萨姆·奥特曼：“是的，我认为和大多数其他情况一样，最佳实践者将使用多种工具。他们会在自然语言中做一些工作，当他们需要为某事写C语言时，他们会去做。”
莱克斯·弗里德曼：“我们会在某个时点看到OpenAI的人形机器人或人形机器人大脑吗？”
萨姆·奥特曼：“在某个时点。”
莱克斯·弗里德曼：“对你来说，具体化的AI有多重要？”
萨姆·奥特曼：“如果我们有AGI，而唯一的方式让物理世界里的事情得以完成就是让人类去做，那将是令人沮丧的。所以我真的希望，作为这个过渡、这种相变的一部分，我们也能得到人形机器人或某种形式的物理世界机器人。”
莱克斯·弗里德曼：“我的意思是，OpenAI在机器人方面有一定的历史，相当多的历史，但在伦理方面还没有做到——”
萨姆·奥特曼：“我们是一个小公司。我们必须真正专注。而且，那时候机器人因为错误的原因而难以处理，但我们将在某个时点以某种方式回归机器人。”
莱克斯·弗里德曼：“那听起来既鼓舞人心又有威胁。”
萨姆·奥特曼：“为什么？”
莱克斯·弗里德曼：“因为你说的‘我们将回归机器人’立刻让我想到《终结者》——”
萨姆·奥特曼：“我们将回来继续开发机器人。我们当然不会把自己变成机器人。”
【关于通用人工智能AGI】
莱克斯·弗里德曼：“那么，你认为我们什么时候能够创造出AGI呢？”
萨姆·奥特曼：“我曾经喜欢对这个问题进行猜测。但我后来意识到，这个问题的提法非常糟糕，因为人们对AGI的定义各不相同。所以，我认为更有意义的是讨论我们何时能够构建出能够完成X或Y或Z能力的系统，而不是模糊地超越某个里程碑。AGI也不是终点，它更接近于一个开始，但它更多的是一个里程碑，而不是这两者中的任何一个。但如果非要回答这个问题，我期望到本十年末，甚至可能更早一些，我们将拥有相当强大的系统，我们看着它们会说，‘哇，这真的很了不起。’如果我们现在能看到它们的话。也许到那时我们已经适应了。”
莱克斯·弗里德曼：“但如果你看看ChatGPT，即使是3.5版本，如果你把它展示给艾伦·图灵，或者不用说艾伦·图灵，哪怕是90年代的人们，他们会说，‘这绝对是AGI。’好吧，不一定，但很多专家会说，‘这是AGI。’”
萨姆·奥特曼：“是的，但我不认为3.5改变了世界。它可能改变了世界对未来的期望，这实际上非常重要。它确实让更多人认真对待这个问题，使我们走上了新的轨道。这也很重要。所以，我不想贬低它。我认为，即使在那之后我就退休了，也会对我的职业生涯感到非常满意。但作为一项成果，我不认为我们会回顾它并说，‘这是一个真正改变世界的门槛。’”
莱克斯·弗里德曼：“所以对你来说，你在寻找某种真正意义上改变世界的重大转变？”
萨姆·奥特曼：“对我而言，这是AGI所暗示的一部分。”
莱克斯·弗里德曼：“奇点级别的转变？”
萨姆·奥特曼：“不，绝对不是。”
莱克斯·弗里德曼：“但就像互联网出现，就像谷歌搜索所做的那样，你认为现在的转变点是什么？”
萨姆·奥特曼：“全球经济现在或从根本上与我们推出GPT-4之前有何不同吗？我认为你会说没有。”
莱克斯·弗里德曼：“不，没有。它可能只是许多人使用的一个非常好的工具。它会帮助你做很多事情，但感觉并没有不同。你的意思是——”
萨姆·奥特曼：“我是说，再次强调，人们对AGI的定义各不相同。所以或许你有一个不同于我的定义。但对我来说，我认为这应该是它的一部分。”
莱克斯·弗里德曼：“也许还会有一些重大的戏剧性时刻。对你来说，AGI能做出什么令人印象深刻的事情？如果你独自一人与这个系统在一个房间里。”
萨姆·奥特曼：“这对我个人来说很重要。我不知道这是否是正确的定义。我认为，当一个系统能够显著提高世界上的科学发现速度时，这将是一个巨大的成就。我相信，大多数真正的经济增长来自科学和技术进步。”
莱克斯·弗里德曼：“我同意你的看法，这也是为什么我不喜欢近年来对科学的怀疑态度。”
萨姆·奥特曼：“完全同意。”
莱克斯·弗里德曼：“但实际上是可衡量的科学发现速度增加。即使只是看到一个系统有着真正新颖的科学直觉，那也将是非常不可思议的。”
莱克斯·弗里德曼：“但实际上能够衡量科学发现的速度增加。即使只是看到一个系统拥有真正新颖的科学直觉，那也将是非常不可思议的。”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“你很可能会成为第一个构建AGI并能够在其他人之前与它互动的人。你会谈论些什么呢？”
萨姆·奥特曼：“我的意思是，肯定是这里的研究人员会在我之前做到这一点。但是，我其实对这个问题思考了很多。正如我们之前谈到的，我认为这是一个不太恰当的框架，但如果有人说，‘好的，萨姆，我们完成了。这里有一台笔记本电脑，这就是AGI。你现在可以去和它交谈。’我会发现我很难说出我期望第一个AGI能够回答的问题。那第一个AGI不会是那种，我认为，‘去解释给我听物理学的大统一理论，或者物理学的一切理论。’我很想问那个问题。我很想知道那个问题的答案。”
莱克斯·弗里德曼：“你可以问是或否的问题，比如‘这样的理论存在吗？它能存在吗？’”
萨姆·奥特曼：“那么，那些就是我会首先问的问题。”
莱克斯·弗里德曼：“是或否。然后根据那个，‘外面有其他外星文明吗？是或否？你的直觉是什么？’然后就这样问。”
萨姆·奥特曼：“是的，我的意思是，好吧，所以我不期望这个第一个AGI能够回答那些问题，即便是以是或否的形式。但如果它能做到，那些问题会是我非常关注的列表上的。”
莱克斯·弗里德曼：“也许你可以开始分配概率？”
萨姆·奥特曼：“也许。也许我们需要先发明更多的技术和测量更多的东西。”
莱克斯·弗里德曼：“哦，我明白了。它只是没有足够的数据。就是如果它保持——”
萨姆·奥特曼：“我的意思是，也许它会说，‘你想知道这个物理问题的答案，我需要你建造这个机器并进行这五项测量，然后告诉我那些。’”
莱克斯·弗里德曼：“是的，‘你到底想从我这里得到什么？我首先需要机器，然后我会帮你处理那台机器的数据。’也许它会帮你构建机器。”
萨姆·奥特曼：“也许。也许。”
莱克斯·弗里德曼：“在数学方面，也许还能证明一些东西。你对这方面的事情也感兴趣吗？对想法的形式化探索？”
萨姆·奥特曼：“嗯嗯。”
莱克斯·弗里德曼：“首个构建AGI的人将获得巨大的权力。你觉得自己能承担那么大的权力吗？”
萨姆·奥特曼：“让我诚实地回答这个问题。我本想说，我仍然相信，我或任何其他个人都不应该完全控制OpenAI或AGI。我认为我们需要一个健全的治理系统。我可以指出去年我们所有董事会纷争中的许多事情，关于我最初没有反抗，而是像这样说，‘好吧，这是董事会的意愿，尽管我认为这是一个非常糟糕的决定。’后来，我显然确实进行了反抗，并且我可以解释为什么我认为后来反抗是可以接受的细微差别。但正如许多人观察到的，尽管董事会有法律权力解雇我，实际上并没有奏效。这本身就是一种治理失败。”
“再次，我觉得我可以完全为这里的具体情况辩护，我认为大多数人会同意这点，但这让我很难直视你的眼睛说，‘嘿，董事会可以随时解雇我。’我继续不想拥有OpenAI的超级投票权。我从来没有拥有过，也从未想要。即便在所有这些疯狂之后，我仍然不想要。我继续认为，没有任何公司应该做出这些决定，我们真正需要的是政府制定道路规则。”
“我意识到这意味着像马克·安德森（Marc Andreessen）这样的人可能会声称我‘绑架’了监管，我愿意被误解。这不是真的。我相信，随着时间的推移，为什么这很重要将被证明出来。但我认为，我为OpenAI做出了许多错误决定，也做出了许多正确的决定，我为整体记录感到骄傲。但我认为，没有任何一个人应该，也不会有任何一个人。我认为这已经是现在社会中的一个巨大议题，并以一种良好和健康的方式发生。但我不认为任何一个人应该控制AGI或这整个向AGI迈进的运动。我不认为那是正在发生的事情。”
莱克斯·弗里德曼：“谢谢你说这些。这真的很有力量，也很有洞察力，这个观点，即董事会可以解雇你在法律上是真实的。但人类可以操纵大众，以至于推翻董事会等等。但我认为，这里还有一个更积极的版本，即人们仍然有权力，所以董事会也不能太强大。所有这一切都存在权力平衡。”
“你害怕失去对AGI本身的控制吗？很多人担心的是存在风险，不是因为国家行为者，不是因为安全问题，而是因为AI本身。”
萨姆·奥特曼：“这当前不是我最担心的问题。过去有时候我更担心这个。将来也许还会有时候这会成为我的首要担忧。但现在不是。”
莱克斯·弗里德曼：“你为什么不太担心这个问题？因为还有很多其他事情要担心，本质上？你认为我们可能会感到惊讶吗？我们——”
萨姆·奥特曼：“当然。说这不是我最担心的问题，并不意味着我认为我们不需要努力。我认为我们需要努力。这非常困难，我们这里有很棒的人在研究这个问题。我认为我们还有很多其他事情也必须做好。”
莱克斯·弗里德曼：“对你来说，现在它不是很容易就能逃出魔盒，连接到互联网——”
萨姆·奥特曼：“我们之前谈过戏剧性风险。这是一个戏剧性风险。这是一个真的可以占据人们对这个问题思考的事情。有一大群非常聪明，我认为非常有善意的AI安全研究人员，非常专注于这一个问题，我敢说没有多少进展，但非常专注于这个问题。我其实很高兴他们这样做，因为我认为我们确实需要更多思考这个。但我认为它挤出了讨论空间中很多其他非常重要的AI相关风险。”
莱克斯·弗里德曼：“让我问你一个问题，为什么你发推特不用大写字母？你的键盘上的Shift键坏了吗？”
萨姆·奥特曼：“为什么有人会在意这个？”
莱克斯·弗里德曼：“我非常在意。”
萨姆·奥特曼：“但为什么？我是说，还有其他人也问过我这个问题。你有什么直觉吗？”
莱克斯·弗里德曼：“我觉得原因相同。有这样一位诗人，E.E.卡明斯，他大部分时间都不使用大写字母，这种做法就像是在对体制说‘去你的’。我认为人们非常偏执，因为他们希望你遵守规则。”
萨姆·奥特曼：“你认为是这样吗？”
莱克斯·弗里德曼：“我认为是这样——”
萨姆·奥特曼：“就像是‘这个家伙不遵守规则。他的推特不用大写字母。’”
莱克斯·弗里德曼：“是的。”
萨姆·奥特曼：“‘这看起来非常危险。’”
莱克斯·弗里德曼：“‘他看起来像个无政府主义者。’”
萨姆·奥特曼：“那不是——”
莱克斯·弗里德曼：“你只是在做诗意的、潮流的事吗？”
萨姆·奥特曼：“我是在成长为一个网络时代的孩子时，我花了大量时间和人们聊天，那时候你是在电脑上做这些事情，而且你可以在某个时刻登出即时通讯。我在那时候从不使用大写字母，就像我认为大多数网络时代的孩子一样，或许他们现在还是不用。我不知道。实际上，现在我在努力寻找某些东西，但我认为随着时间的推移，大写的使用已经减少了。如果你读旧英语的写作，他们在句子中间随机地使用了很多大写字母，名词等我们现在已经不再这样做了。我个人认为，在句子的开头和某些名字的首字母大写是一种愚蠢的构造，但那也没关系。”
“然后我过去我想甚至在我的推文中使用大写字母，因为我试图听起来更专业些。我在很长一段时间内没有在发私信或其他任何东西中使用大写字母。然后慢慢地，类似于较短形式、不那么正式的东西逐渐变得越来越接近我如何给我的朋友发短信。如果我打开一个Word文档，为公司写战略备忘录或什么的，我总是使用大写。如果我在写一条较长、更正式的信息，我也总是使用大写。所以我仍然记得如何做到这一点。但即使这样可能也会消失。我不知道。但我从未花时间去思考这个，所以我没有准备好的——”
莱克斯·弗里德曼：“嗯，这很有趣。首先，知道Shift键没坏就好了。”
萨姆·奥特曼：“它工作正常。”
莱克斯·弗里德曼：“我主要是担心你的——”
萨姆·奥特曼：“没错，它工作正常。”
莱克斯·弗里德曼：“...健康状况。”
萨姆·奥特曼：“我想知道，人们还会在他们的谷歌搜索中使用大写字母吗？如果你只是给自己写东西，或者是在ChatGPT查询中，如果你只是给自己写东西，还有人会费心使用大写字母吗？”
莱克斯·弗里德曼：“可能不会。但是，是的，有一小部分人会。”
萨姆·奥特曼：“如果人们说，‘这是一种表示……’的标志，因为我当然可以强迫自己使用大写字母。如果这感觉像是对人们的一种尊重或者类似的东西，那我可以去做。但我不知道。我不认为这个问题。”
莱克斯·弗里德曼：“我不认为这是不尊重，但我认为这只是文明的常规，有它的动力，然后你意识到，如果它不是尊重或不尊重的标志，那它对文明实际上并不重要。但我认为有一群人只是希望你围绕它有一套哲学，这样他们就可以放开整个大写字母的事情。”
萨姆·奥特曼：“我不认为还有其他人像我一样经常思考这个问题。我的意思是，可能有些人。我知道有些人——”
莱克斯·弗里德曼：“人们每天想这个问题很多个小时。所以我真的很感激我们澄清了这一点。”
萨姆·奥特曼：“我不可能是唯一一个不使用大写字母发推的公司CEO。”
莱克斯·弗里德曼：“你是唯一一个不使用大写字母发推的公司CEO。”
萨姆·奥特曼：“我甚至不认为那是真的，但也许。我会非常惊讶。”
莱克斯·弗里德曼：“好吧。我们将进一步调查并稍后回到这个话题。鉴于Sora能够生成模拟世界，让我问你一个嬉皮士式的问题。这是否增加了你的信念，如果你曾经有过，即我们生活在一个模拟中，也许是由一个AI系统生成的模拟世界？”
萨姆·奥特曼：“有点。我不认为这是最有力的证据。我认为我们能够生成世界的事实应该使每个人的概率有所增加，或至少在某种程度上增加了开放性。但我确信我们在某个时候能够做到像Sora这样的事情。它比我想象的来得更快，但我猜那并不是一个重大的更新。”
莱克斯·弗里德曼：“是的。但事实是……假设它会变得越来越好……你可以生成那些新颖的世界，它们基于某些训练数据的方面，但当你看它们时，它们是新颖的，这让你思考做到这件事有多容易。创建看起来极其逼真和照片级逼真的整个视频游戏世界有多容易。然后在物理层面上，首先使用VR头盔，然后多容易就迷失在那个世界中？”
萨姆·奥特曼：“有人最近对我说了一段非常深刻的见解，我认为这是一种非常简单的听起来却非常迷幻的洞察。比如平方根函数，四的平方根没问题。但是二的平方根，好吧，现在我得考虑这种新类型的数字了。但是一旦我提出了这个简单的平方根函数的概念，你甚至可以通过一些简单的几何学来解释给一个孩子听，然后你就可以问，‘负一的平方根是什么？’这就是为什么它是迷幻的。这会让你进入到一种全然不同的现实中。”
“你可以想出很多其他的例子，但我认为这个概念，即初级的平方根操作符能够提供如此深刻的洞察和新的知识领域，这在很多方面都是适用的。我认为这里有很多这样的操作符，为什么人们可能会认为他们喜欢的任何版本的模拟假说可能比他们之前认为的更有可能。但对我来说，Sora的成功并不在前五名之内。”
莱克斯·弗里德曼：“我确实认为，广义上讲，AI在其最佳状态下将作为这些种类的通道，简单、迷幻式的通道进入另一个现实层次。”
萨姆·奥特曼：“那似乎是肯定的。”
莱克斯·弗里德曼：“这真的很令人兴奋。我之前没有制作过死藤水(能使人产生幻觉)，但我很快就会。几周后我将前往前面说的的亚马逊丛林。”
萨姆·奥特曼：“感到兴奋吗？”
莱克斯·弗里德曼：“是的，我为此感到兴奋。不是因为死藤水部分，那是很棒的，无所谓。但我将在丛林深处度过几周。这很令人兴奋，但也很可怕。”
萨姆·奥特曼：“我为你感到兴奋。”
莱克斯·弗里德曼：“那里有很多东西可以吃你、杀死你、毒害你，但那也是自然，是自然的机器。你不得不欣赏亚马逊丛林中的自然机制。就像这个系统存在并且每一秒、每一分钟、每一个小时都在更新自己。它是机器。它让你欣赏我们在这里拥有的这个人类事物来自于某处。这种进化机器创造了它，而且在丛林中最为明显地展示出来。所以希望我能活着出来。如果不行，这将是我们进行的最后一次有趣的对话，所以我真的非常感激。你认为，正如我之前提到的，当你仰望天空时，外面是否存在其他外星文明，智能生命？”
【关于外星人】
萨姆·奥特曼：“我非常想相信答案是肯定的。我觉得费米悖论非常令人困惑。”
莱克斯·弗里德曼：“我觉得智能生命不擅长处理强大技术的事实很可怕。但同时，我相当自信外面有大量的智能外星文明存在。也许穿越太空真的很难。”
萨姆·奥特曼：“非常有可能。”
莱克斯·弗里德曼：“这也让我思考智能的本质。也许我们对智能的样貌非常盲目，也许AI会帮助我们看到。它不仅仅是IQ测试和简单的解谜。有一些更大的东西。是什么让你对人类的未来充满希望，我们这个人类文明有什么呢？”
萨姆·奥特曼：“我认为过去给了我们很多。我是说，看看人类在不是很长的时间里所做的事情，巨大的问题，深刻的缺陷，有很多事情让人非常羞愧。但总的来说，非常鼓舞人心。给了我很多希望。”
莱克斯·弗里德曼：“就是它的发展轨迹。”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“我们一起努力朝着更好的未来前进。”
萨姆·奥特曼：“我想知道的一件事是，AGI会更像是某种单一大脑，还是更像是社会中我们所有人之间的框架？从你的曾曾祖父母那里，你并没有经历很大的遗传漂移（种群中基因库在代际发生随机改变的一种现象），然而你能够做的事情截然不同。你所知道的也截然不同。而这不是因为生物学上的变化。我是说，你可能变得更健康了一些。你有现代医学，你吃得更好，等等。但你拥有的是我们所有人在其上建立的这个框架。没有一个人会去制造iPhone。没有一个人会去发现所有的科学，然而你可以使用它。这给了你不可思议的能力。所以在某种意义上，我们所有人创造了那个，这让我对未来充满希望。这是一件非常集体的事情。”
莱克斯·弗里德曼：“是的，我们确实站在巨人的肩膀上。你提到当我们谈论戏剧性的、戏剧化的AI风险时，有时你可能害怕自己的生命。你考虑过自己的死亡吗？你害怕它吗？”
萨姆·奥特曼：“我是说，如果我明天被枪杀，我今天就知道了，我会觉得，‘哦，那很悲伤。我想看看将会发生什么。多么好奇的时代。多么有趣的时代。’但我主要会感到非常感激我的生活。”
莱克斯·弗里德曼：“你所拥有的那些时刻。是的，我也是。这是一段相当棒的生活。我得以享受人类创造的精彩作品，我相信ChatGPT是其中之一，以及OpenAI正在做的所有事情。萨姆，能再次与你交谈真是荣幸和乐趣。”
萨姆·奥特曼：“很高兴与你交谈。感谢你邀请我。”
莱克斯·弗里德曼：“感谢你收听这次与萨姆·奥特曼的对话。要支持这个播客，请查看描述中的赞助商。现在，请允许我以亚瑟·C·克拉克的一些话作为结束语。“我们在这个星球上的角色可能不是崇拜上帝，而是创造他。”感谢你的聆听，希望下次再见。”（易句）
（本文由AI翻译，本站编辑负责校对）