第四范式戴文渊：人类理性边界没有突破前，AI没有自主意识

近日，“AI 大神”、第四范式公司创始人、CEO 戴文渊做客格隆汇高端访谈《格隆博士会客厅》。

对于以 AI 为代表的硅基生命，未来可能进化出认知能力、判断能力甚至情感、欲望的担忧，戴文渊表示，AI的表现其实最后都是人为设定的目标导致的，而不是AI自己。

硅基生命其实并不知道贪婪、欲望叫什么，它如果选择做人们看来贪婪的事情，那是因为选择贪婪可以让预测下一个字的准确率提升，源头其实还是人设定了一个什么样的目标。

例如现在的推荐引擎会产生很多的“三俗”内容，这些“三俗”内容并不是 AI 自己喜欢“三俗”，所以也想给你推“三俗”，而是人设定了一个目标——让网民看这个APP的时长尽可能地长。

然后AI发现推一些“三俗”的内容会让用户看得更久，最后它就带来了这个结果，但其实这并不是AI的自主意识，它只是在非常理性地计算，干什么样的事情对自己的目标是最好的。

就像大语言模型，它看起来好像在干很多事情，但其实它干所有事情就只有一个目标——预测下一个字的准确率，预测得尽可能的高。

虽然最近的20年AI技术日新月异，但此时此刻的理论其实并没有突破上个世纪五六十年代以及七十年代所奠基的框架。

所以不能说未来AI不会进化到自己设定自己的目标，但至少在这个理论框架没有得到突破之前，即便大模型训练数据量、算力再增加几个数量级，AI的目标仍然是人为设定的。

因此相比于硅基和碳基的替代关系，大家可能更需关注的是，人设定的这个目标对于我们整个社会乃至整个世界是否有益。