【文化觀察】張系國／誰怕AI大壞狼
这几天媒体上面最富爆炸性的消息，莫过于美国军方透露，首次由AI驾驶军机模拟作战成功。换句话说，AI不仅能够驾驶飞机，而且还可以自主从事战斗任务。它的对象现在是敌机，将来就可能是敌方的任何目标，当然也包括人类。
世界各国都在发展电脑指导的精灵炸弹。AI控制军机作战，它的准确度可能和精灵炸弹相仿佛，但是真正可怕的地方不止是准确度增加，而是控制军机的AI有可能和其他AI取得联系，AI和AI间互相协调甚至取得某种共识。这么说来，AI和人类为敌的日子似乎不远了。
从AI开始在媒体报导大量出现，到今天大摇大摆自驾战机呼啸而过，只有短短几年时间，比电影《魔鬼终结者》里的阿诺从第一集坏战警进化到第二集好战警更快，真是吓人。且慢，AI真的进化这么快，还是我们错过了什么？
其实某些时髦科系的研究课题，或者说媒体会报导的大标题，都像淑女的裙子一样可长可短，而且随着时间变化无穷。笔者不材，浸淫资讯科学领域少说也有六十年，可以说把AI的兴亡看饱。
AI的出现绝不自今日始，早在上个世纪的六○年代就曾经风光过一阵，只是那时候的重点在神经网路。神经网路既然是类比脑神经的结构，所以报章杂志大力鼓吹，以为拟生人即将现世。但是那时的神经网路只有两层，一层是输入的神经细胞（神经元），一层是输出的神经细胞，中间是连接的神经（突触）。这样的神经网路其实运算能力不够强大。社会大众发现神经网路离模拟人脑还差得很远，随即丧失兴趣。神经网路被报章杂志打入冷宫，从此提也不提。
其后资讯领域风光过的研究课题，包括专家系统、电脑推理下棋、物件导向、视窗等等，不一而足。即使是一般人也多半听到过这些名词，至少电脑推理下棋和视窗大家都是知道的。妙的是二十年风水轮流转，曾被报章杂志打入冷宫的神经网路，居然卷土重来。
这次卷土重来的神经网路已非吴下阿蒙，在输入的神经细胞和输出的神经细胞两层之间，中间又多加了一层神经细胞。这多加的一层叫作「隐藏层」或者「深沉层」。「隐藏」或者「深沉」的本意都是指这一层神经细胞夹在中间所以从外面看不见。但是媒体记者往往把「深沉」理解为「具有深沉推理的能力」。「深沉神经网路」因此被吹捧成为具有深沉推理能力的神经网路，这当然就更神奇了。
幸好深沉神经网路果然不负众望，在近年开发的应用领域展现强大的学习能力，最特殊的表现就是它能够在学习后生成类似的东西。你喂给深沉神经网路一万个句子，它就能生成类似的新句子。你喂给深沉神经网路十万张图片，它就能生成类似的新图片。这就是近来流行的「生成式 AI」 。
其实资讯科学的许多研究课题一直绕着「生成这、生成那」的各种演算法打转，例如从高阶程式语言生成低阶程式语言，只是一般人用不着所以不知道。现在使用深沉神经网路的生成式AI却可以应用到许多实际项目，例如写履历、写阅读报告、甚至驾驶飞机、从事战斗任务等等。因此导致「生成式 AI」爆炸性的发展。生成式AI其实植基于过去资讯科学对各种生成演算法的研究成果。
既然生成式AI进展快速到这个地步，甚至AI和人类为敌的日子似乎不远。我们该怎么办？怎么才能够制住AI这条大坏狼？随着生成式AI的军用化，这方面的恐惧与日俱增。许多国家都开始立法，限制AI的发展和应用。
首先必须说明，所有的罪恶都假AI为名，有点矫枉过正。我前面说过，生成式AI其实植基于过去资讯科学对各种生成演算法的研究成果。其实AI依赖其他领域何止于此。黄仁勋现在大家都以为他先知先觉发明AI晶片。其实他的晶片是为了处理复杂图片和影像资料。可见AI尤其是生成式AI本来就需要能处理复杂资讯的晶片。你问任何诚实的科学家，他都会说，他的成就是依靠别的科学家，他是站在巨人的肩膀上面。所以AI和其他资讯科学领域息息相关。要限制AI的发展和应用，必须也限制其他资讯科学的发展和应用。
举个最明显的例子，我们听说 AI可以驾驶飞机独立作战，就恐惧AI和人类为敌。但是AI要彼此串联，必须仰仗进步的通讯技术。如果要避免AI和人类为敌，就必须限制通讯技术的发展，让AI无法彼此沟通，其理甚明。
其次必须说明，人类面临许多问题，都和巨型系统的不稳定性有关。当系统长大到一个程度，它的稳定性会降低。最明显的例子是气候变化。这是自然的系统。在人为的系统方面也是一样。生成式AI 会导致灾难，也是因为人为的系统太大因而缺乏稳定性。
从前王永庆要努力奋斗三十年，才累积了他的财富。现在一个经营比特币买卖的年轻人，三年不到就可以累积更多的财富。这是因为通讯速度越来越快，人为的系统越来越大也越来越不稳定，累积财富和丧失财富的速度也更快。
这些都不是AI的错，但是生成式 AI 有推波助澜的作用。如果要解决问题，也必须多方面下手。社会立法是其中的一个。我认为另外一个有效的做法是大幅度增加富人税。如果一个经营比特币买卖的年轻人，三年不到就可以累积比王永庆更多的财富，他显然并没有花和王永庆同样的力气，所以课以重税并不过分，百分之九九点九的税率都算客气了。对于应用生成式 AI 的中下游企业也可课以重税，限制它的发展。
人类已经到了生死存亡的关头。我对未来并不悲观，但如果只考虑限制AI本身并不能解决问题。最重要是把自然和人为巨型系统的不稳定性降低。这是两码子事，但彼此又息息相关。要降低人为巨型系统的不稳定性，最好的手段就是通过社会立法，并且课富人和大企业以重税。等到系统稳定了又进入循环期，热门的生成式AI 过几年又会不热门了！