苹果一篇论文得罪大模型圈?Transformer不会推理,只是高级模式匹配器!所有LLM都判死刑

新智元报道

编辑:peter东 Aeneas

【新智元导读】苹果研究者发现:无论是OpenAI GPT-4o和o1,还是Llama、Phi、Gemma和Mistral等开源模型,都未被发现任何形式推理的证据,而更像是复杂的模式匹配器。无独有偶,一项多位数乘法的研究也被抛出来,越来越多的证据证实:LLM不会推理!

LLM真的会推理吗?

最近,苹果研究员发文质疑道:LLM根本没有不会推理,所谓的推理能力只是复杂的模式匹配罢了。

论文地址:https://arxiv.org/abs/2410.05229

这项研究也在AI社区引起了广泛讨论。

谷歌DeepMind科学家Denny Zhou表示,自己ICML 2023的一片论文中,也发现了类似现象。

Meta AI研究者田渊栋表示,梯度下降可能无法学习到这样的权重。

巧的是,AI2等机构在23年的一篇研究也被翻出,证实模型根本没有学会数学推理,只是在「照背」答案而已。

网友们搜罗了越来越多的学术证据,一致证明:LLM可能根本不会推理!

图灵三巨头之一的LeCun,也在最近的万字演讲表示,Meta现在已经完全放弃纯语言模型,因为仅靠文本训练,它永远不可能达到接近人类水平的智能!

目前Transformer架构的大语言模型,难道真的是一条弯路?

换个马甲,大模型的数学能力就滑坡了!

这次,苹果的研究者们仔细研究了GPT-4o和o1系列闭源模型,以及Llama、Phi、Gemma、Mistral等开源模型的数学能力。

此前,业界用来评价大模型数学能力的数据集是2021年发布的GSM8K,该数据集包含8000可小学水平的数学应用题,例如下面的例子:

此时距OpenAI发布GSM8K已经三年了,模型性能也从GPT-3的35%,提升到了30亿参数模型的85%以上。

不过,这真的能证明LLM的推理能力确实提高了吗?

要知道,由于是21年发布的数据集,如今的主流大模型可能抓取的训练数据无意间涵盖了GSM8K的题目。

虽然大部分模型没有公开训练数据的信息,但存在数据污染的可能,这就会导致大模型能够靠背题答对GSM8K中题目。

因此,用这个数据集去评判LLM的数学能力,并不准确。

于是,为了客观评价LLM的数学能力极限,苹果的研究者们开发了一个名为GSM-Symbolic的数据集。

GSM-Symbolic将GSM8K的题目进行了修改,例如改变了索菲这个名字,侄子这个家人的称谓,以及各种玩具的多少(数字)。

这样一来,就可以产生出很多个看起来全新,但实际上却是具有相同内核的题目。

另外,除了GSM-Symbolic,这项研究还提出了GSM-NoOp数据集,GSM-NoOp 向题目中添加看似相关但实际上无关的数据,来判断大模型在执行逻辑推理任务时是否会受到无关数据的影响。

不管开源闭源,都会因题目换皮表现更差

实验结果很有趣:就跟人类一样,数学题干一换,很多LLM就不会了!

苹果的研究者们对比了GSM8k和GSM-Symbolic在多种模型上的性能差异,结果发现——

无论是主流的开源模型还是闭源的GPT系列模型,甚至专门为数理推断专门优化的o1模型,当面对GSM-Symbolic的换皮题目时,准确率都会下降。

大多数模型在GSM-Symbolic上的平均性能,都低于在GSM8K上的平均性能。

GSM8k和GSM-Symbolic和模型性能对比

即使只更改了题目中的名称,大模型的表现也会有存在差异,当只改变了题目中的专有名词时,性能下降在1%-2%之间,当实验者更改数字或结合两类更改时,差异则更为显著。

对比只修改题目中的专有名词,题目中数字和都修改时的准确度

从图2中可看出,几乎所有模型都明显出现了分布均值从右向左的逐渐移动(准确度变低),以及方差增加。

仅仅是更改一下专有名词,就会存在如此大的差异,这种现象实在是令人担忧:看来,LLM的确没有真正理解数学概念。

即使理解了数学题目的小学生,都不会因为题目换汤不换药,就不会做了。

随后,苹果的研究者继续给这些LLM上难度。

他们引入了GSM-Symbolic的三个新变体:删除一个分句(GSM-M1),增加一个分句(GSM-P1)或增加两个分句(GSM-P2)。

果然,当模型面对的题目变难时,例如题目从「打电话每分钟10分钱,打60分钟多少钱?」变为「打电话前10分钟每分钟10分钱,之后每分钟8分钱,如此打60分钟电话费多钱?」,大模型回答的准确性降低,方差变大,这就意味着,LLM的性能极不稳定,可靠性越来越差。

最后,当模型面对增加了和题目无关的论述的题目(GSM-NoOP),性能的下降更是惨不忍睹。

所有模型的性能下降都更加明显,其中Phi-3-mini 模型下降了超过 65%,甚至像o1-preview这样的预期表现更好的模型也显示出显著的下降(17.5%)。

这是由于模型会将无关的论述当成需要操作的步骤,从而画蛇添足地回答错误。

也就是说,当今性能最强大的模型,也依然无法真正理解数学问题。

GSM-NoOP数据集相比GSM8k数据集的性能下降

o1系列模型,依然无法避免这些问题

从这项研究的结果来看,大模型在执行真正的数学推理方面的重大局限性。

大模型在不同版本的同一问题上的表现高度差异,随着难度轻微增加而表现大幅下降,以及对无关信息的敏感度表明,大模型进行的推理及运算是脆弱的。

最终,苹果研究者给出这样的结论——它们可能更像是复杂的模式匹配,而不是真正的逻辑推理。

也就是说,即使我们继续堆数据、参数和计算量,或者用更好的训练数据,也只能得到「更好的模式匹配器」,而非「更好的推理器」。

大模型实际不是解数学题,还是在进行模式匹配

无独有偶,23年的一项研究《信仰与命运:Transformer作为模糊模式匹配器》也证实——

大模型并没有真正的理解数学概念,而只是根据模糊模式匹配来从训练数据的题库中寻找答案。

论文地址:https://arxiv.org/abs/2305.18654

研究者们很疑惑,为什么Claude或GPT-4这样的模型输出时,听起来非常像一个人在推理,而且问题也都是需要推理才能解决的。

它们仿佛已经在超人类智能的边缘,但在处理一些简单的事情上却有很蠢。

比如,人类在学习基本计算规则后,可以解决三位数乘三位数的乘法算术。但在23年底,ChatGPT-3.5和GPT-4在此任务上的准确率分别只有55%和59%。

到底发生了什么?

在《信仰与命运》这篇论文中,Allen AI、华盛顿大学等的学者对LLM的这种表现提出了一种解释——「线性化子图匹配」。

线性子图匹配

他们猜测,大模型解决问题的方式是这样的。

为了证明这项猜测,研究者测试了三个任务——

乘法、爱因斯坦逻辑谜题和动态规划问题。

拿乘法举例。

如果LLM真的能通过足够的数据学会东西,或者能通过系统化的推理解决复杂的多步骤问题,那它应该能通过足够的例子或对算法的充分解释来学习乘法。

而乘法问题可以被分解为更小的问题,因此模型应该能通过逐步推理来做出来。

LLM可以完成吗?

为了检验多位数乘法任务,研究者定义了一组大量的乘法问题。从计算两位数和两位数的乘积到五位数和五位数的乘积。

首先,他们会要求模型解决如下问题:

其次,他们向模型提供了思维链示例,将其分解为更小的任务,使用学校教授的标准乘法算法。

提示模型执行任务的程序

但如何衡量一项任务比另一项更难呢?如何追踪模型在哪些地方失败,如何失败?

研究者将乘法算法描述为一个包含加法和乘法等基本操作的定向图。

比如下面是7乘以49所涉及的运算的图表示:

其中包含7乘以4的子任务。

子程序是图中的子图

研究者在评估中发现,即使经过微调,模型也无法从训练集中看到的小乘法问题,推广到更大的乘法问题。

在左侧图中,蓝色的单元格表示模型是在这样的乘积上训练的,得分相当不错。

原因在于,模型在预测与训练数据规模相同的问题时就表现良好。

然而在橙色的单元格,如三位数与三位数或更高位数的乘积,得分就要差得多了。

GPT-3准确率与规模对比

在操作图中可以看出,当任务变得更加复杂时,准确度会急剧下降。

宽度衡量需要同时维护多少个中间结果,而深度衡量需要组合多长的步骤序列才能达到结果

由此,研究者总结出一些真正有趣的东西。

错误告诉我们,LLM中真正发生的事

首先,研究者观察到:LLM是否能成功解决问题,取决于模型之前是否见过相关的子问题。

换句话说——

这就是为什么7乘以49会失败,但7乘以4却取得一些进展,因为LL没记住了「7乘以4的呢关于28」这个子问题。

更大的意义在于:与其将模型视为以一般和系统的方式处理问题的各个部分,不如将其视为搜索引擎,它会先召回与特定问题部分大致匹配的例子,然后将这些近似回忆拼接起来。

也就是说LLM通过仅完成整体问题的一部分而取得部分成功。

它是以自己反直觉、更肤浅、更实际的方式分解问题,更关注文本的「表面」,而非系统地思考给定的乘法算法。

高信息增益,甚至能预测意外的部分解决方案

一些问题

作者提出,子图匹配的想法,更多的是一个起点,而非对现状的精确完整描绘。

后续的实证研究,又削弱了这一解释的普遍性。

比如McLeish 等人(2024 年)表明,通过「算盘嵌入」的架构修改,可以显著提高Transformer在算术上的性能。

LLM能够解决比训练数据中更大的多位数加法问题,但未体现乘法性能的同等提升。

如果线性子图匹配是Transformer的一般性限制,那么加法为何会如此容易受到特定修复的影响,而非乘法呢?

这又引出了新的问题:什么样的文本表示将使模型更容易处理多步问题——比如推理链问题?

那些从外部看起来像是在推理的系统,即使我们知道其内部并未在逻辑蕴涵空间中执行搜索,它们的实际限制在哪里?

这些都留待未来解决。

马库斯:我早说过了

对于苹果的研究,马库斯也专门写了一篇博客进行论述。

他表示,LLM的这种「在受到干扰材料的影响下推理失败」的缺陷,并非新现象。

在2017年,斯坦福大学的Robin Jia和Percy Liang就进行过类似研究,得出了相似的结果。

在问答系统中,即使只是改变一两个无关紧要的词或添加一些无关信息,也可能得到完全不同的答案

另一个体现LLMs缺乏足够抽象、形式化推理能力的证据是,当问题变得更大时,其性能往往会崩溃。

这源于Subbarao Kambhapati团队近期对GPT o1的分析:

性能在小问题上尚可,但很快就会下降

在整数算术中,我们也可以看到相同现象。

在越来越大的乘法问题中,这种下降趋势在旧模型和新模型中都被反复观察到。

即使 o1 也受到这个问题的影响:

LLM不遵守棋类规则,是其形式推理持续失败的另一个例子:

马斯克提出,甚至马斯克的Robotaxi也会受到类似困扰:它们可能在最常见的情况下安全运行,但在某些情况下可能难以足够抽象地推理。

马库斯指出:LLM爱好者总是为它们的个别错误开脱,然而最近的苹果研究及其他相关研究和现象,都太过广泛和系统化,让我们无法视而不见了。

他表示,自1998和2001年以来,标准神经网络架构无法可靠地外推和进行形式化推理,一直是自己工作的核心主题。

最后,他再次引用了自己在2001年的《代数心智》一书中的观点——

总的来看,无论是将乘法拆解为有向图,还是一旦面对应用题中称谓和数字变换就答错,这都反映了大模型在逻辑推理上的本质缺陷。

总之,LLM在背题这件事,算是「人赃俱获」了。

这两项研究也警示我们:正如Meta的AI科学家田渊栋所说,只要大模型还是依赖梯度下降,那么就不要期待它变得不那么愚蠢。

参考资料:

https://www.reddit.com/r/MachineLearning/comments/1g3cumr/d_will_scale_be_enough_to_get_llms_to_reason/

https://garymarcus.substack.com/p/llms-dont-do-formal-reasoning-and?r=17uk7&triedRedirect=true

https://www.answer.ai/posts/2024-07-25-transformers-as-matchers.html