海纳百川》50年AI寒冬无人问 ChatGPT一举成名就得诺奖(沈政男)

瑞典皇家科学院8日宣布,美国学者霍普菲尔德(左图),与加拿大学者辛顿(右图),共同获得今年度诺贝尔物理学奖。(美联社)

今年诺贝尔物理学奖颁给了人工智慧的开拓者霍普菲尔德与辛顿。他们的研究跟物理学关系不大,顶多是从中得到灵感,尤其辛顿根本没有物理学背景,于是引发了一些小争论。

然而,就跟流行音乐家巴布狄伦得到诺贝尔文学奖一样,诺贝尔奖也需要赶流行,于是趁着ChatGPT引爆的AI热潮,拉关系颁给了两位人工智慧的大师。

ChatGPT运用所谓深度学习,而前身有几个重要里程碑,最早是1950年代的感知器(perceptron),后来是1980年代由霍普菲尔德发展的霍普菲尔德网络(Hopfield network),以及辛顿发展的波兹曼机器(Boltzmann machine),再加上几个重要的简化训练的演算法,比如反向传播(Backpropagation),才有后来的AI大爆炸。

然而,你看,霍普菲尔德与辛顿的重要贡献,都是30多年前所做了,为什么现在才得奖?就因为ChatGPT的成功,使得他们的成就变得伟大起来,否则先前根本没人在意啊。

正所谓:50年AI寒冬无人问,ChatGPT一举成名天下知,才让他们得到诺贝尔奖。事实上在感知器发展起来以后,有人就证明了,只能用来解决简单问题,没办法成为人工智慧!于是AI进入了第一个寒冬时期,后来才由霍普菲尔德以他的发明带来了春天。辛顿受到霍普菲尔德启发,改良了他的网络,使得人工智慧又变得可能。

人工智慧是模拟人脑的思考方式,霍普菲尔德网络与波兹曼机器都很创意,而且可以执行数字辨认的任务,问题是速度太慢了,电脑的学习与运算速度跟冰河移动差不多,必须找到更有效率的训练电脑的方法。

附图就是反向传播发表出来的那篇文章,刊载在1986的《自然》期刊,应该是AI史上最重要文章之一。反向传播是什么,以后我会再写,这里只是要说,那篇文章的第一作者是谁?

大卫•鲁梅尔哈特。辛顿说,鲁梅尔哈特才是AI的开拓者,因为他是辛顿的督导老师。可惜他十几年前就过世了。

鲁梅尔哈特编写了两册一套的《平行分布过程》,乃AI最重要的经典之一,我在20多年前就买了,今早拿出来再翻一翻,都已经覆盖蛛蜘丝了。你可以看到,在1980年代,那些认知科学家,企图多么宏大!他们不是要发明人工智慧,而是对人脑如何思考充满了兴趣,想办法要来模拟人脑,于是想出了各式各样的神经网络模型。

没想到后来被资讯科学拿去用了,而重要的技术关键就是大家知道的,GPU的发明与运用,训练神经网络的速度加快了千万倍,使得平行运算变得可行。

人工智慧的原理很简单,一端是输入,另一端是输出,中间则是隐藏神经元,而透过训练,喂给电脑既有资料,让它学习起来,下次遇到模糊的资料,就可以辨认,甚至可以创造新的资料。问题就出在,中间那些隐藏神经元要怎么连结,彼此如何沟通,以及资料从输入端进去以后,从前头传到后头,该怎么给予加权,才能让输出端的产出,跟目标答案的差距越来越小。

比如你给一张苹果的图片,训练以后如果给一张香蕉图片,必须能够判断这不是苹果!

感知器就是很固定的演算法,你程式怎么写,就只能那样判别资料;霍普菲尔德网络是俩俩神经元相互连结的网络,霍普菲尔德从物理学的自旋概念,想到了神经元的运作有类似之处,并且用能量的概念来求得网络的恒定状态,这是他的创见;而辛顿引入了隐藏神经元,并且用反向传播简化了训练过程,使得网络的学习更有效率。

Open AI的创办人伊尔亚是辛顿的学生,他在1986出生,刚好是附图那边文章发表那年。辛顿曾说,有一天一个学生来敲门找他,说要跟他学习,但他正在忙,于是就说,我们约个时间好了!结果那位学生竟回答,那就约现在好了!

那位学生就是伊尔亚,那天辛顿给了一篇文章,要他回去念,就是附图那一篇。伊尔亚后来与辛顿一起,掀起了十余年来这一波的AI革命,从AlphaGo一直到ChatGPT,他等于是AI的代言人。

辛顿教出了好多高足,比如杨立昆(博士后研究),跟他一起在2018得到图灵奖。照理说杨立昆也可以得这次的诺贝尔物理奖,但因为他纯粹就是人工智慧领域的人,跟物理沾不上边,诺贝尔奖委员会扯不下去了。

网路上可以找到好多辛顿的访谈与教学影片,他本来在Google工作,去年离开,就为了可以更加客观评论AI。他大半生对研究、教学与倡导AI,都充满了兴趣、理想与远见,可以说是一个典范科学家。

科学家的三个角色或使命就是:研究、教学与倡导。

辛顿还有一个重要的演算法发明,也就是对比分歧(contrastive divergence),网路上没人介绍,有机会我再来写一下。

看到网路上辛顿亲自讲解人工智慧的教学影片,真的非常感动。国外大学的研究风气,显然跟台湾有很大不同,人家对学术的热情可以达到疯狂投入的程度,难怪可以发明那么神奇的东西。(作者为医师)

※以上言论不代表旺中媒体集团立场※