Altman最新讲话全文:12天12场新品发布会,“超级智能”雏形将震撼2025!
Open AI CEO Sam Altman日前在参加纽约时报Dealbook Summit时接受专访,就AI发展问题,超级智能进化,OpenAI是否转型盈利公司等一系列问题回答记者提问。
以下是采访要点:
以下为对谈全文,由AI进行翻译
主持人:
Sam,感谢你在这里。我们非常感激。
Sam是OpenAI的CEO兼联合创始人。正如我之前所说,OpenAI是我们时代最具影响力的公司之一,自从ChatGPT发布以来,仅仅两年时间,Sam和他的团队就将人工智能带入了主流,彻底改变了我们工作、沟通、创新的方式,并且现在让我们重新思考未来将会是什么样子。
现在,OpenAI的公司市值大约为1570亿美元。值得一提的是,OpenAI不仅点燃了一场军备竞赛,还重新定义了技术的可能性。随着他向通用人工智能(AGI)的推进,我们不得不面对关于未来工作、权力平衡、伦理问题以及其他许多问题的一些重大挑战。今天,我们将深入探讨这些问题。再次感谢,位于这一切中心的Sam。
Sam:
很高兴见到你。
主持人:
接下来,我们从这里开始。
两年前,几乎就在这个时刻,你们发布了ChatGPT。我想可以说,当你按下按钮的那一刻起,从那时起几乎一切都发生了剧变。感觉它改变了全球的对话,也改变了资金筹集的优先级、资源的调配,其他科技公司也改变了他们的做事方式。甚至发生了诉讼,所有这些都发生了。我非常好奇,你能不能带我们回到两年前,几乎就是今天或这个星期,告诉我们当时你按下按钮的时候,你认为会发生什么?
Sam:
我们一直知道,总有那么一刻,不管是什么原因,世界会从“不了解”到“理解”,而且突然间就会清楚地看到这项技术正在发挥作用。
在内部,那时对我们来说非常明显,语言模型会持续扩展,它们会做很多有用的事情。而为什么这种变化会出现在ChatGPT的发布时,我有一些理论,但为什么它是在这个时刻发生,而不是在我们发布GPT-3和API时,或者为什么直到GPT-4发布几个月后才发生,为什么是那一刻?我认为有一些巧合促使了它最终爆发。
不过,我们也观察到,使用API和GPT-3时,GPT-3发布时有些早,它并不是能用于那么多的事情。但从某种意义上说,它的一个杀手级应用是开发者在Playground中的使用,那是你可以快速测试想法的地方,在正式实现API之前,他们喜欢和模型对话。
他们就坐在那里和GPT-3进行对话,聊任何事情。这几乎是人们使用它的主要方式。所以我们就想,如果这是人们想要的功能,我们可以让它变得更容易使用。你不需要注册开发者账号,做其他一些步骤,我们可以把它调优,使它擅长对话。因此,我们就说,好吧,让我们做一个这样的产品。
事实上,我们本来是计划用GPT-4来发布它的。我们在2022年8月完成了GPT-4的研发,但我们推迟了一段时间。
主持人:
但是你预料到这一切会发生吗?
Sam:
我们一直觉得世界上会有一个重大时刻。我们知道这会发生,但我们是否知道它会在ChatGPT发布的那一刻发生?当然没有。
主持人:
现在过了两年,接下来的大问题是我们都在问的,我甚至无法相信我们仅仅在两年后才开始问这个问题。你刚刚提到,你认为几千天后我们可能会拥有超级智能。我想知道,两年前你是否这么认为?当你说几千天时,我可以做各种数学计算来理解那意味着什么。
Sam:
我的意思是,这里有很大的不确定性,并且不同的人对超级智能有不同的定义。
是的,两年前,我们认为自己正处于一个相当陡峭的曲线上,我们创办OpenAI的原因就是我们认为这是可能的,而且可能并不遥远,进展也非常顺利,但我们希望它会顺利进行——我们相信深度学习是人类的一个令人难以置信的新发现,认为它可以发展到这个程度,我们有责任把它带到这个阶段,并确保它的进展顺利,广泛分享它的好处。
是的,我们认为我们能够做到这里,我们仍然相信可以做到。虽然这不是确定无疑的,仍然有大量艰难的工作、研究和工程要做,但我认为这是可能的。我认为它不远的未来就会到来。我预计到2025年,我们将会有一些系统,哪怕是那些对当前(超级智能)进展持怀疑态度的人,也会说:“哇,这我没预料到,这确实改变了局面。”
主持人:
这会改变什么?
Sam:
“代理”(Agents)是现在大家都在谈论的话题,我认为这是有充分理由的。这个想法是,你可以给一个AI系统一个相当复杂的任务,就像你交给一个非常聪明的人,可能需要一段时间去完成,使用一堆工具并创造出有价值的东西。
这就是我预期明年会发生的事情。而如果它像我们希望的那样运作得那么好,那将是一个巨大的变革。我们谈论这些事情时,似乎都觉得这只是“哦,这个东西会发生”,但如果它真的顺利发展,那将真正改变很多东西。
主持人:
好吧,那我们该怎么理解呢?最近几周,有很多头条新闻提到,也许AI的扩展规律(Scaling Law)实际上正在放缓。然后你发了一条推文,它是非常直接的,你写道:“没有壁垒”。
Sam:
我看不出它能比这更直接了,那正是我尝试不拐弯抹角地说:“嘿,这一切还会继续。”事实上,希望这能消除一些疑虑,至少有一段时间不会再讨论这个问题。
我一直很惊讶人们多么喜欢猜测“是不是有壁垒”,而不是去看进展的曲线,然后说:“也许我不该把指数对抗另一个指数。”无论如何,我们有很多新的精彩内容。所以我们打算在假期期间做一些有趣的事情,明天开始我们会做12天OpenAI活动,我们将会每天发布新的内容或者做一个演示,持续12天。关于明天的内容,我不能透露太多,但那肯定是持续的进展。
主持人:
给我们透露一点线索,既然它明天就要开始了。
Sam:
我不想破坏你的惊喜,等待的时间并不长。(笑)
主持人:
我不擅长这种,你必须告诉我。 但关于AI的一个大问题,涉及到扩展问题的是,到底需要多少数据,或者到底需要什么来继续扩展?
这其中有多少是关于纯粹的计算能力和资本,多少是关于数据,数据从哪里来?像是合成数据,数字数据,我们将如何基于现有数据重建数据?在这个阶段,要扩展AI到底需要什么?因为大家都在讨论某些限制因素,我觉得这个问题中隐含了一些关于哪些因素能推动这一进展的问题。
Sam:
三大关键输入是计算力、数据和算法。它们之间有时候是可以互相权衡的:比如你如果有非常好的数据,可能需要更少的计算力;或者如果你有更多的计算力,可以用它来生成合成数据,从而产生更多的数据。有一段时间,我们在计算力上获得了非常容易的进展,但最近,我们更多地依赖于算法上的进展。你希望在所有这些输入上同时推进,尽管在不同的时刻,可能会有不同的收益,但我会将这三者一起考虑。
主持人:
但对于你来说,计算力,我想是最重要的。如果没有计算力,其他的都没意义。
Sam:
从某种意义上说,算法进展才是最重要的。你知道,如果你能让一台计算机的规模翻倍,也许随着大量的资本投入,偶尔你能让一台计算机的处理能力提高10倍,这样的1000倍的提升,往往是通过算法实现的。变压器(Transformer)就是一个很好的近期例子。虽然这种情况很罕见,但每当发生时,它确实是最大的进步。
主持人:
现在,确实感觉像是在进行一场计算力的军备竞赛,对吧?有一场军备竞赛是在为资金筹集、处理能力和更多计算力而进行竞争。你和微软有合作关系,而且现在依赖于他们。
Sam:
我认为,确实有一场关于这些所有领域的竞赛。计算力的竞赛是最有趣、最戏剧化、最大的数字,吸引了最多的关注。这非常重要,我不想忽视它,但无疑也有大量的努力投入到了谁能提出最好的算法理念,谁能获得新的数据来源。所以我认为,我们确实是在这三方面进行竞争。
主持人:
你确实与微软有合作关系,这种关系有时被描述为“科技友谊”,以最好的方式来看待。而我刚刚读到一篇文章,写道微软和OpenAI显然正在解开一些联系。
Sam:
我不认为我们在解开联系。我不会假装没有不一致或挑战,显然是有一些。但总体来说,我认为这对两家公司来说都是非常积极的事情,我们也很期待一起做更多的事。
主持人:
但是从长远来看,你认为你们需要拥有自己的计算能力,而不是依赖别人吗?
Sam:
不,事实上,我认为我们需要确保获得足够的计算能力,确保我们可以依赖这些能力。我们可能有一些非常疯狂的想法,希望能够构建一些高风险高回报的东西,但我们完全不需要让OpenAI变得非常擅长建立像大规模数据中心这样的计算机基础设施。
事实上,我认为其中一个原因,也许这是我成长过程中的一种后果,我是那种属于“创业世代”的创始人,在那个时期,每个人都必须自己建立硬件,你必须有这些数据中心,然后突然间AWS(亚马逊云服务)改变了这一切。所以我一直是这样思考的。我对我们是否需要自己构建一些东西持开放态度,或者也许随着时间的推移,垂直整合变得更加重要。能专注于研究和产品,并做我们擅长的事,真的很棒。
主持人:
但我问这个问题的原因是,它创造了一种“朋友敌人”或者“朋友敌人”的局面,我想象着你们有自己的产品,但,你知道,我昨天实际上在使用它,检查了一些东西,结果很棒。
Sam:
很高兴听到这个。
主持人:
顺便说一下,稍后我们将邀请Sundar过来,搜索产品也非常有意思。你们的产品真的很酷。我得说,这是我们发布的最喜欢的产品之一。
Sam:
感谢你这么说。这是我们推出的很久以来我最喜欢的产品,我用得非常频繁,且非常满意。它完全改变了我使用互联网的方式。
主持人:
我之前提到的是,你们有这种合作关系,微软在Copilot中使用你们的产品,苹果也在使用你们的产品,然后你们自己也有一个本土的产品,直接向消费者销售。某个时刻,双方的利益是否会不再一致?
我这么说是因为,包括《纽约时报》在内的报道提到,曾经有一些关于你们在获取计算能力和接入服务方面的挫折,OpenAI团队成员可能不太愿意使用微软的产品,涉及到不同的需求和服务。我只是想弄清楚这一点。
Sam:
确实,在某些时刻,的确有过计算能力上的紧张。我们的产品在扩展,规模变得很大。两年前,我们几乎没有业务,现在我们有超过3亿的每周活跃用户。用户每天向ChatGPT发送超过10亿条消息,我们也有非常庞大的开发者业务。
我记得我们有130万美国开发者,全球更多。所以我们需要大量的计算能力,超过了我们之前的预期。这在商业历史上是一个非常不寻常的现象,能够这么快速地扩展,也因此产生了紧张关系。
不过,我没有听说过人们对使用微软服务感到不满的情况。我们有一个庞大的平台业务,也有自己的第一方业务,许多其他公司也管理着这两者。我们也有我们非常擅长的东西,微软在某些方面也做得很好。虽然确实有一些紧张关系,但总体来说,我认为我们的利益是高度一致的。
主持人:
但听起来,关于人工通用智能(AGI)的部分,确实存在一些紧张关系,因为你们一直说,与微软的协议中有一条,如果你们真的达到AGI阶段,协议可以被取消。现在听起来你们可能已经接近了这个阶段。
Sam:
我们也说过,我们的目标是将AGI视为一个里程碑。在这个过程中,我们留下了一些灵活性,因为我们并不知道未来会发生什么,但我猜,我们比世界上大多数人想象的要早达到AGI,而且它的重要性会远低于大家预期的。实际上,很多我们和其他人所表达的安全担忧,并不会在AGI出现的瞬间发生。AGI一旦被建立,世界大体会照常进行,经济会加速发展,事情也会更快增长,但从AGI到超级智(superintelligence)的过渡才是我们应该担忧的时刻。
主持人:
我记得,在过去的几年里,你甚至曾经在华盛顿和其他地方告诉我们,我们应该感到紧张。
Sam:
首先,即便在AGI的时刻,我认为仍然有需要担忧的事情。我预计经济的冲击会比人们想象的要慢一些,因为社会中有很多惯性。但随后这种影响可能会比人们想象的更为剧烈。所以前几年的变化可能不大,但也许经济会在之后发生很大的变化。
我不相信“我们总能找到做事的方式”,但每一次重大的技术革命都会带来大量的职业变动。我敢打赌,我们将从未见过如此快速的变化。因此,我认为这种事情在相对较近的未来是值得担忧的。
但这并不是最危险的事情。最危险的事情,我认为离我们还远。那种事情可能需要一段时间才会发生。
主持人:
你是否相信政府或其他人能够找到办法避免这些问题呢?
Sam:
我相信研究人员会找到办法避免这些问题。就是说,我需要稍微澄清一下这一点。
我认为有一系列技术问题,世界上最聪明的人会去解决这些问题。我天生有点乐观,但我假设他们会解决这个问题,并且会努力工作。其他人也在为此付出巨大努力。我认为我们面前有很多工作要做,但我也认为,我们有一个奇妙的,不是魔法,而是非常强大的科学工具——深度学习,能够帮助我们解决这些非常困难的问题。我假设我们最终会把这件事做对。
至于社会层面的问题,不仅仅是AGI的问题,也不仅仅是我们认为几年内就能到来的那种能做很多工作的系统,创造大量经济价值的技术,而是关于真正的超级智能,那个系统不仅比你聪明,比我聪明,而且比我们所有人加起来都要聪明,拥有不可思议的能力。
即使我们能让它在技术上是安全的,我相信我们最终会做到这一点,我们将必须在政府上有所信任。对于这个问题,必然会有一些政策层面的问题出现,需要全球范围内的协调,我相信我们会有能力应对,但这显然是一个巨大的挑战。
主持人:
好的,那么这是一个关于安全的问题,过去一两年你常常出现在头条新闻上。很多人,包括OpenAI内部曾离开或发声的人,都提到你们似乎没有足够专注于安全,对吧?信任的问题,能否谈谈这个问题?当人们说你们在安全方面不够专注时,你会怎么想?是什么没有发生?应该发生的事情没做吗?
Sam:
我会指向我们的成绩记录。我想说,我们推出了一个非常新的技术,这个技术发展非常迅速。起初我们并不知道如何很好地对齐它,但现在它被社会大多数人认为是足够安全的,并且具有足够的稳健性。
安全始终是一个由许多利益相关方共同商定的契约,可能很难准确地定义ChatGPT是什么样的“安全”。
主持人:
但是我之所以提这个问题,是因为我们听到很多人,特别是离开了组织的人,他们公开发声,甚至在Twitter上说,你们没有把安全放在足够重要的位置,资源没有足够投入到安全上。这是关于计算能力的问题吗?还是你们的关注度不够?
Sam:
确实有一些人认为ChatGPT的安全性不够,它允许一些不应该发生的事情,或者没有做一些应该做的事情。也有一些人会推敲其中的某些部分。
有些人可能会说,ChatGPT的安全性可能比我们当初认为的要好,但那我们接下来的系统计划是什么?我们该怎么应对这些问题?还有一些人会说,像这样推出系统本身就是不安全的,因为OpenAI加速了全球的竞争,这让我们在安全研究上的时间变得更少。因此,我们相信(这是一个有意见的立场)迭代部署这一理念非常重要。
我们必须把这些系统推向社会,技术和社会必须共同进化。你必须在风险较低时就开始,了解人们如何使用它,了解它的优缺点。也有些人认为,这样做虽然有一定好处,但并不值得付出这种代价。
主持人:
这又引出了另一个问题,可能涉及计算能力的问题。我之前提到过,埃隆·马斯克正在建设自己的处理能力实验室,实际上是为了为X AI提供支持。我问你是否需要自己的计算能力,原因之一是,似乎每个人现在都在建设自己的计算能力。
我们刚才在和Ken谈话时也提到,埃隆·马斯克与你之间有一种特殊的关系,既是创始人,又是正在起诉你们的公司。现在,你如何看待X AI作为一个竞争者?我们当然经常谈论谷歌,还会谈论Anthropic,在某种程度上也会提到微软,而我不知道你怎么看待亚马逊。今天下午我们还会与杰夫·贝佐斯对话。你怎么看待X AI?
你认为它们是你们最大的竞争者之一吗?看起来他们似乎在强势崛起。
Sam:
我认为他们会成为一个非常严峻的竞争对手。
主持人:
你预料到会这样吗?
Sam:
是的,我预料到了。
主持人:
他们到底在做什么,如何在如此短的时间内迅速建立起一家公司,虽然我并不是说它与你们所做的完全相同,但确实看起来进展非常快,几乎要追赶上了。那是什么原因?
Sam:
嗯,现在大多数前沿的模型都差不多,但我对他们如此迅速地建成数据中心非常敬佩。
主持人:顺便问一下,你是否担心所有这些会因此变得商品化?我的意思是,如果看起来像是——我并不是说每个人都能做到这一点,但似乎……你的优势是什么?顺便说一下,你的劣势是什么?
Sam:
我认为,技术本身,如果你相信深度学习只是像物理法则一样的东西,且我们发现了一个重要的新科学突破,那么是的,这部分技术会被很多人做出来。
每个人对人工智能都有自己的比喻。你知道,像苏斯和达尔斯·比尔,他把它比作电力,很多人把它比作工业革命,也有人把它比作文艺复兴。我喜欢的比喻是晶体管。
那是一个科学发现,最初只有少数公司做到了,但它彻底改变了我们的社会,能够无限扩展。当人们谈论扩展定律时,我认为最好的类比就是摩尔定律,而这最终被许多公司使用,整个世界也受益匪浅。你看这个房间里的所有东西,都用了晶体管。但我们并不把这些看作晶体管设备,也不认为谷歌是一家晶体管公司,尽管没有晶体管他们就不可能存在。
我有点觉得人工智能也会走上同样的路,未来会有许多极其强大的模型广泛存在,用于各种应用,而对于未来的人们来说,难以想象他们使用的设备、产品和服务不是超级智能的。他们可能会自称为“人工智能公司”或“人工智能产品”。从这个意义上讲,人工智能本身,包括其推理引擎的本质,可能会变得商品化。但这没关系,这很好。科学应该在社会中得到广泛传播,这就是我们专注于像ChatGPT这样的产品的原因。
主持人:
另外一个问题,和埃隆相关的是,你们现在开始将公司向盈利方向转型,目前它是一个非营利性公司,正如大家所知,如果你读过新闻,他正因这件事以及其他一些事情在起诉你们,作为一个人,我只是想问问你,放下案件本身的内容,从个人角度来看,作为一个曾经和他有很多时间共事的人,你今天对此有何感受?
Sam:
这让我非常伤感。我从小就把埃隆视为我的超级英雄。我认为埃隆所做的事情对世界来说是绝无仅有的,当然,我现在对他有不同的看法,但我仍然感到高兴,他的存在仍然非常重要。
不仅仅是因为我认为他的公司很棒(我确实认为如此),更因为在大多数人没有抱有雄心的时候,他推动了很多人,包括我,去思考得更加宏大。我对这一点非常感激。其实,感谢可能是个不太恰当的词,但我对这一点非常积极,抱有正面的看法。
我们一起创办了OpenAI,但在某个时刻,他完全失去了对OpenAI的信心,决定走自己的路,这也没关系。但我把埃隆视为一个建设者,众所周知,埃隆真的很在乎自己是“那个人”。但我认为他是那种如果他不是“那个人”,就会选择在市场和技术领域竞争,而不是诉诸于法律手段。
无论他表面上的投诉是什么,我相信他只是把我们视作竞争对手,我们做得很好,这让人有点难过。
主持人:
我得问你这个问题。华尔街日报有篇文章,你和杰夫·贝佐斯都在其中,还有其他一些他的主要竞争对手,文章里有一种猜测,说像你们这样的人,担心他的影响力,不仅仅是在科技领域,而是考虑到他现在和当选总统的密切关系。
Sam:
我其实并不担心这个问题,我很坚信这一点。可能最终事实会证明我错了,但我很坚定地相信,埃隆会做出正确的选择,而且美国人不会容忍这种行为——利用政治权力,尤其是像埃隆拥有的这种权力,来打压竞争对手,提升自己的商业利益,这种行为是深深违反美国精神的。我相信埃隆不会这么做。这与他自己非常重视的价值观相违背,虽然他有很多让人不喜欢的地方,但我不太担心这一点。
主持人:
好的,最后一个相关问题,然后我还想谈一些关于公司和不同科技问题的事情。埃隆曾经提出一个指控,他认为你们现在已经这么大了,竞争几乎不存在了,你们正在通过阻止潜在投资者,比如X AI,或者其他人,同时投资你们和你们的竞争对手,来防止竞争的发生。
Sam:
这完全不对,我们说的其实是非常标准的。我们说的是,如果你想投资并且想投资我们的任何竞争对手,那完全没问题。但我们会停止你获取我们的信息权。你仍然可以投资,但就像是对于其他规模公司来说非常标准的条款,停止向你透露我们的研究路线图。大家都觉得这很合理。但再说一遍,如果你想去投资他们,那就去投资。
主持人:
让我问你一个关于公司不同的问题。你们一开始是作为一个非营利性公司创办的,最初是一个研究机构。现在我觉得有一种看法认为,你们必须转型成某种盈利型公司。好吧。
Sam:
首先,它必须转型吗?我想谈谈我们最初为何作为非营利性公司开始,因为我觉得这可以解释为什么我们当时做出了那样的选择。
我们当时完全没有想到会成为一家产品公司。我们也没有预见到我们需要的资本量会如此庞大。如果当时我们知道这些事情,我们会选择不同的结构。很难夸大2016年和今天的差异,虽然那也不是很久以前,但2016年真的与现在完全不同。那时候我们甚至没有研究出能够带来语言模型的技术,那是比我们推出第一个产品还要早了4年半,比我们推出ChatGPT还早了6年半。
我们那时候唯一知道的是,我们想做一些人工智能研究,认为最终AGI(通用人工智能)和超级智能对世界会是至关重要的,我们想做一些对世界有益的事情。
当时我们只是写论文,研究新的强化学习算法、新的理论,尝试让机器人能够玩游戏,开发机器人手臂。而当时并不清楚我们是否会有产品,或者是否会有收入来源。也不清楚我们是否会需要这么多资金。
在GPT-1和其他一些工作后,我们开始意识到,我们需要扩展规模,并且开始这样做。同时,埃隆决定停止资助我们作为一个非营利组织,我们也无法找到其他人来接手,因此我们需要找到一种方式来实现有限的盈利。
那时我们还希望保持很多非营利组织的优势。所以我们设立了一个子公司,做了有限盈利的模式,这种模式在一段时间内有效,从某种意义上来说,它仍然有效,但在某些方面,这种模式已经开始拉扯非营利组织控制的组织的理论,而我们在下一阶段所需的资本量实在是太大了。
所以,我们已经在思考一些变化。正如你可以想象的那样,这个问题非常复杂,我们的董事会正在努力研究。没有做出任何决定。无论最终采取什么形式,非营利组织不会消失。例如,董事会曾经考虑过的一个方案是,非营利组织拥有一个公共利益公司(PBC)的巨大股份,并通过这种方式利用大量财富来实现非营利组织的目标。当然,也有其他的想法。
主持人:我一直很好奇的一点是,你从未在公司中拿过股权。
Sam:
我想你比我更常思考这个问题。
主持人:
我很惊讶你只拿了76,000美元。我查了一下,确实就是这个数。如果公司真的迎来一个大的时刻,大家是否期待你能够获得股权呢?
Sam:
这个问题曾经被很多媒体报道过,也确实有一些投资者的压力。看,事实上,我没拿股权确实有些奇怪。
主持人:
你想要股权吗?你不想要吗?不,我当时不想要。
Sam:
如果能回到过去,我会拿一点股权,只是为了以后再也不用回答这个问题。
不管我怎么解释给别人听。我拥有世界上最有趣、最酷的工作。这就像是我退休后最理想的工作方式,经历了一个相当不错的职业生涯之后。人们可以做艺术项目而不拿报酬,大家也不觉得奇怪什么的。
可惜人们很难理解这一点。所以,我现在希望我当时拿了一些股权。虽然我不认为这会让我更努力工作或者工作得更少,但至少会让投资者们对我的态度更清晰一些,可能也会让融资变得容易一些。确实有很多投资者因为我没有拿股权而没有投资。他们会说,真的吗?
主持人:
他们不会投资,因为你没有股权?
Sam:
这几次确实出现过。
主持人:
那么公司现在的估值是1570亿美元,你认为如果这种情况再次发生,你自己会拿多少股权?
Sam:
我想你比我更常思考这个问题。
主持人:
我们时间不多了,我得问几个其他的问题。首先是,完全透明地说一下…
Sam:
我再说一件事,关于这个话题。我会很快结束的。这是我从小的梦想工作。并不是每天都充满激情,像现在这样全身心投入,有时候我更希望不用天天脑袋对着这个问题,但是能参与AGI的工作,和世界上最聪明的研究人员一起坐在同一个房间,去参与这个疯狂的冒险,这正是我一直想做的。这就是我的童年梦想。所有的奇怪事情放一边,我觉得至少应该能理解,对我来说,这比任何额外的钱都更有价值。
主持人:
非常感谢你。让我问你一个问题,如果我不提到它,我就会愧疚。
恰好《纽约时报》公司目前正在对OpenAI和微软提起诉讼,指控他们在训练时使用了内容。我知道你不能就具体的诉讼发表评论,但对于那些在场的内容创作者来说,他们是靠写书、写文章、拍电影或其他方式谋生的人,我很好奇,你怎么看待这件事?
Sam:
我认为我们确实需要一个新的协议标准,无论你怎么称呼它,关于创作者如何获得报酬。
我非常相信“学习的权利”,不管你怎么称呼它。如果AI阅读了一本物理教材并学到了物理,它可以将这些知识应用到其他方面,就像人类一样。我认为版权法和公平使用的部分应该继续适用。
但我认为,我们现在开始探索的一些额外的内容,尤其是我一直很感兴趣的一个问题是,是否能找到微支付的方式。如果你生成了类似安德鲁·罗斯风格的故事,并且你可以选择是否允许使用你的名字、肖像和风格,并且为此获得报酬?当然,也有许多其他的想法。
我认为关于是否公平使用的讨论,似乎在错误的层面。我们当然非常相信,应该有一种“学习的权利”方式。
但我真正认同的是,我们需要找到新的经济模型,让创作者在这个新世界中获得新的收入来源。《纽约时报》嘛,我不认为我们应该出现在别人的地盘上作为礼物并且不尊重他们,但我还是想说,我认为《纽约时报》站在了历史的错误一方。
主持人:
我们可以在法庭上讨论和辩论这个问题,
Sam:
我期待和你见面。
主持人:
我的最后一个问题其实几乎与技术无关,但也许有关系,那就是你在未来的一年里将迎来一件非常激动人心的事情——你的孩子的出生。对于所有父母,或者是有意成为父母的人,尤其是在考虑AI会给我们的生活带来什么,甚至它对我们人类意义的影响时,如果机器能做到我们做不到的事,我们该做什么?我们该如何看待自己?它会对我们的尊严产生什么影响?当你看到自己的孩子并与他/她交谈时,你会告诉他们什么,关于我们即将进入的新世界?
Sam:
没有什么能比得上,准备迎接孩子的到来,至少对我而言,孩子的到来使得AGI(人工通用智能)显得如此不重要,我对AGI的兴奋度曾经很高,但现在有了孩子,兴奋感更加强烈。
它确实让人对真正重要的事情有了新的认识。我觉得这是一个对这个普遍现象的具体视角,我们已经发展出令人难以置信的新技术很久了,每次技术的进步,大家都会问,这意味着什么?比如工业革命来了,机器取代了我们的工作,这意味着什么?
计算机革命来了,计算机取代了一些现有的工作,这又意味着什么?从人类的角度看,答案其实没什么变化。经济会增长,人们所做的工作会改变,但人们会更加关心自己的孩子,比他们关心AGI或任何其他技术带来的东西要多得多。
那些深层的人类驱动力是如此强大,已经存在很长时间了,进化的速度相对较慢,因此,在某些意义上,我的孩子将会在一个完全不同的世界中成长,而在另一些意义上,世界将保持一如既往的相同。
主持人:
Sam,感谢你,大家,谢谢你们的精彩对话。