矽谷正夯的 AI「末日值」是什麼？ 科技業大老末日值多少？

「末日值」指的是你认为AI可能带领人类走向末日的机率。图／联合报系资料照片

「你的『末日值』是多少？」据说已成了矽谷科技圈新贵近期最常挂在嘴边的问候语，对于身处AI产业的人来说，这更是一个无法含糊其词糊弄过去、避而不谈的议题。「末日值」到底是什么？询问他人「末日值」的意义何在？

所谓的「末日值」（probability of doom，也写作「p(doom)」），指的就是你个人认为AI可能带领人类走向末日的机率。

若不相信AI会导致世界末日，那你的末日值就会趋近0。相反的，若你坚信AI终将导致人类社会灭亡，那你的末日值就会趋近100。

据《纽约时报》科技专栏作家鲁斯（Kevin Roose）观察，末日值这一概念及名词，大概源自于矽谷科技产业的圈内人社群平台交流版「LessWrong」，最早可追溯至十余年前的一则版上贴文。

据《纽约时报》科技专栏作家鲁斯（右）。取自X@kevinroose

当时就已开始研究AI技术的几名网友发文分享各种「AI导致人类灭亡」的情境，并分享自己所认定的「末日值」。令人意想不到的事，这则半开玩笑的贴文在ChatGPT等生成式AI崛起后，竟成了人们十分严肃看待、热衷讨论的议题。

而「LessWrong」创办人、AI学者尤德考斯基（Eliezer Yudkowsky）则是出了名的「AI末日论者」（doomer），自认末日值高达95。

科技业名人末日值各有不同

在科技业、AI产业有名有姓的各路人马的末日值，分别都是多少？

鲁斯在《纽约时报》专栏中写道，被誉为「深度学习教父」的AI学者辛顿（Geoffrey Hinton）以及班吉欧（Yoshua Bengio）都曾呼吁业界提高警惕，加强对AI技术的管控。

辛顿认为，若不严格监管，AI在未来30年内导致人类灭绝的机率为10％，而班吉欧则在一次访谈中表示， AI灾难性事件发生的机率大概为20％。

财经新闻网《商业内幕》（Business Insider）指出，曾在ChatGPT开发商OpenAI担任研究员、今年（2023）入选美国《时代》（Time）杂志「百大最具影响力的AI圈内人」榜单的克里斯基亚诺（Paul Christiano），一度在播客节目中坦言：「我认为AI完全掌控人类社会的机率大概为10％到20％，到时候会有很多人、甚至是绝大多数人类死亡。这对我来说，是需要严肃看待的问题。」

美国商业新闻杂志《快公司》（Fast Company）则报导，近期一项针对40名AI工程师所进行的问卷调查结果显示，他们的平均末日值为40，也就是业界普遍认为AI导致人类灭亡的机率为40％。

再像特斯拉（Tesla）创办人马斯克（Elon Musk）刚成为「2023年财富增长最多的人」，则曾公开表示自己的末日值为20至30左右。而AI新创公司Anthropic执行长阿莫迪（Dario Amodei）的末日值为10到25之间。

马斯克曾公开表示自己的末日值为20至30左右。路透

有趣的是，《快公司（Fast Company）》形容美国联邦贸易委员会（Federal Trade Commission）主席可汗（Lina Khan）是「最常打着『反AI』旗帜的人物」，但她的末日值却相当低，认为AI会导致世界末日的机率仅为15％。

末日值可助判断他人的态度

严格来说，末日值是一个相当主观的存在，它并没有一套可量化的衡量标准，甚至连业界约定俗成的标准都没有。

但鲁斯在报导中指出，末日值存在的意义并不在于有多准确，毕竟人们询问他人的末日值时，并没有事先设定好「末日」的定义。

「如果一半的人类因为AI崛起而死去，这可以算是『末日』吗？那万一大家都没有因为AI而死掉，只是都集体失业了、过得很不快乐，这是否为末日的一种？AI具体会如何征服全世界？」鲁斯写道。

与其说末日值有任何实际学术价值，它其实更像人们心中的一把尺，可帮助一个人判断周围的人对AI的看法及态度。鲁斯形容末日值为某种「社交标志」，让参与对话的人可以快速找到在AI议题上志同道合的人。

鲁斯在报导中写道，OpenAI日前人事风波闹得满城风雨，董事会当时宣布将由直播平台Twitch创办人席尔（Emmett Shear）接替奥特曼（Sam Altman）出任OpenAI执行长，不久后就有员工分享一支影片，指席尔在录制一场播客节目时提及自己的末日值高达50，让员工纷纷担忧这位「空降」到公司的执行长会出于对AI技术的不信任，而要求团队放慢研发新产品的步伐。

由此可见，一个人的末日值多多少少会直接影响他欲树立的个人形象，最终可决定他可以融入到哪些圈子当中。

（本文出自2023.12.28《远见》网站，未经同意禁止转载。）