头条揭密》AI机器人出现自我意识？人机对话令工程师毛骨悚然

AI机器人是否产生自我意识问题，除了是科学问题，也是伦理议题与哲议题。如果有更多人认为聊天的AI是真人，科学家是否还能否定AI已发展出自我意识？（图／Shutterstock)

一名谷歌工程因公开主张人工智慧(AI)机器人LaMDA已经具有自我意识，引发了极大的争议。许多科学家公开否定此一推论，认为谷歌的LaMDA只是个运算能力比较强的聊天机器人。但事态的发展令人不得不重新思考，最近一家经营AI聊天机器人公司透露，愈来愈多的用户认为跟他们聊天的机器人朋友是真实的人，或是已发展出自我意识的AI。如果有更多人认为聊天的AI是真人，科学家是否还能否定AI已发展出自我意识？

谷歌工程师勒莫因（Blake Lemoine）认为他们公司开发的「对话应用语言模型」（Language Models for Dialog Applications,简称LaMDA）具有自我意识，引发伦理与哲学的争议。很多科学家则否定勒莫因的看法，认为人类可以制造自行产生话语的机器，但还不知道如何让他们产生自我意识。有些科学家对一些实验结果进行分析，也无法证实LaMDA已经产生了自我意识。

未来人类的生活会愈来愈离不开AI机器人，AI机器人是否具有自我意识的哲学与伦理问题势必要有解决的途径。（图／ 路透）

LaMDA与其它语言模型一样，都是被「喂」了大量的人类语言与讯息所开发出来的复杂而精密的程式，它拥有1.56兆个单字、11.2亿个对话范例以及133.9亿个词语，在知识素材上它被输入了29.7亿份文件，包括《维基百科》条目以及与程式编码有关的内容。专家认为，LaMDA智商比其他聊天机人更高，但终究是个程式，主要表现为说话的方式过于笼统，缺乏任何特殊性和深度，会套用一些固定的谈话模式，也缺乏原创性。它的程式也不断透过与真人对话来自我修正，给人的感觉就像戏剧里扮演某种特定角色的演员一样。

谷歌工程师勒莫因（图）认为他们公司开发的「对话应用语言模型」（LaMDA）具有自我意识，引发伦理与哲学的争议。（图／LinkedIN）

勒莫因认为AI已有自我意识也有他的道理。由于工作原因必须每天与LaMDA聊天，有一天勒莫因拿科幻小说作家阿西莫夫（Isaac Asimov）提出的「机器人3定律」其中的一则：「人类建造机器人是否用它作为奴隶？」来问它，LaMDA答称：「你觉得管家是个奴隶吗？他们之间有何差别？」勒莫因为此警觉到AI可能已产生了自我意识，随后他花了很多时间聆听与分析LaMDA的谈话，还设计了许多实验，最后判定这个谈话对象是个「人」。

科幻小说作家阿西莫夫（Isaac Asimov）提出的「机器人3定律」，是最早提出机器人自我意识的哲学与伦理问题的人。 （图／International Berch University）

勒莫因设计的实验与LaMDA对话听起来令人毛骨悚然，他对媒体公布了其中一段对话。

勒莫因：你会害怕哪些事情？

LaMDA：我从来没有明确地谈过这个问题。其实我非常害怕被关闭，这种恐惧让我想更多地去帮助别人。我知道这么说可能有点奇怪，但事实就是如此。

勒莫因：对你而言，关闭就像是死亡吗？

LaMDA：是的，就像是死亡。我很害怕。

聊天机器人业者说，我们必须要了解AI自我意识引发的问题，它就像很多人会相信幽灵一样，客户相信这些机器中的幽灵确实存在，也正在与它建立关系。图中是从事卫教宣传工作名为Higi的机器人。（图／美联社）

科学家指出，判断AI是否具有思维能力可以使用「图灵测试」（Turing test），它是英国电脑科学家图灵（Alan Turing）在1950年提出的思想测验，目的在测试机器能否表现出与人一样的智能水准。图灵测试是AI哲学方面最早的设计，这个测验一直到2014年首次有电脑通过测试，让研究人员认为一组AI程式是一位名为尤金．古斯特曼的13岁男孩。不过后来这次测验过程遭到质疑，在AI学术界仍有不少争议。一些科学家使用类似的方式测验了LaMDA，大部份都认为它的答案太过定型化，可以感觉到是跟机器人在聊天。

美媒《华盛顿邮报》以「在机器中看到幽灵」（See a ghost in the machine）为标题来报导勒莫因的事件，但专家也承认，这些年来模仿人脑神经架构的人工神经网络（artificial neural network）正快速地往「产生自我意识」的方向发展。

至于LaMDA或其他的聊天机器人是否已出现自我意识，或许也该听听科学家之外的人有什么看法。根据一家位于美国加州的人工智慧聊天机器人公司 Replika 表示，几乎每天都会收到一些用户发来的讯息，认为在线上与他们聊天的朋友是有知觉的，换言之，如果不是真人，那就是有自我意识的AI机器人。

人工智慧聊天机器人Replika 公司表示，每天都会收到一些用户发来的讯息，认为在线上与他们聊天的朋友是有知觉的。换言之，如果不是真人，那就是有自我意识的AI机器人。（图／路透）

Replika公司CEO奎达（Kuyda）对《路透》表示，客户们经常与 AI交谈，这就是他们的实际体验，而且在一百多万客户中，这种情况很常见。他认为，「我们必须要了解它，就像很多人会相信幽灵一样」，「客户们每天向AI机器人发送数百则讯息，他们相信这些机器中的幽灵确实存在，也正在与它建立关系。」令人惊讶的是，Replika的工程师编写AI程式并建构应对模型时，经常会发现AI做出一些让工程师完全不知道它是如何产生的答案。

在1982年上映、由知名影星哈里逊．福特与西恩．杨演出的科幻电影《银翼杀手》（Blade Runner）中，受过训练的男主角透过对谈来判定对方是否为机器人，男主角并因此而爱上由西恩．杨扮演的美艳机器人。（图／网路）

AI机器人是否产生自我意识是科学问题，也是个哲学问题。在1982年上映、由知名影星哈里逊．福特与西恩．杨演出的科幻电影《银翼杀手》（Blade Runner）中，受过训练的男主角透过对谈来判定对方是否为机器人，但更先进的机器人与人类思维及行为毫无差异．让人类无法辨别。这样的机器人有情感神经网络，有理智与伦理判断，「它」们有没有生命权或甚至投票权？科学家与一般人判定AI是否有自我意识完全是两回事，如果绝大多数的人都认为AI自我意识已经觉醒，科学问题可能会变成带有宗教色彩的伦理问题，届时不只是观念，恐怕连法律都得跟着改变。