独家观察－「AI幻觉」也让你ㄎㄧㄤ了吗？

图／本报资料照片

AI已成为显学，然而，鲜少人知的是，「人」工智慧的AI，其实也像人类一样是会产生幻觉，AI产生的幻觉，科学界将其称为是「AI幻觉」。

但什么是「AI幻觉」呢？简单说，就是语言模型等生成式AI常会「一本正经的胡说八道」，这不是人类的胡说八道，而是国际期刊《自然》（Nature）研究报告的结果。

但是，AI又是怎么「一本正经的胡说八道」？台湾大学前校长管中闵的例子就很经典。他曾在脸书分享，说友人用他的名字查询，结果ChatGPT出现了「管中闵是一位著名台湾棒球运动员和教练...，被誉为台湾棒球的传奇人物，对台湾棒球界的贡献深远。」只字未提管爷的学术成就。

ChatGPT对管爷的陈述，对学术圈而言，就是「一本正经的胡说八道」。

AI所以产生幻觉，主因是为缺乏知识，且即使模型的能力不断增强，AI幻觉的问题也会继续存在。

日常工作使用生成式AI ChatGPT是现在科技业、类科技圈最火的话题，大部份人赞叹的多是它的解题能力，像可以生成一封妙笔生花的求职信、热泪涕零的告别书，和ChatGPT细细磨功协作出完美无暇的业务结案报告。

某种程度上，这也是ChatGPT带给使用者的「AI幻觉」，以为这些成品都是自己与生俱来的实力完成的。

在教育现场，有些老师就不准学生使用ChatGPT，部分是不希望还在学习知识、理念还在形塑过程的学生，就因可能不正确协作的AI回复，霸占了学习者的初始认知，「AI幻觉」一发不可收拾，甚至成了有毒的要素。

国际期刊的研究论文，就曾以三个模组作实验，在不同的语言模型中，产生AI幻觉的机制不同，这是因为GPT是需要反复练习、使用者要反复测试，这也是「AI幻觉」会在过程一再出现的关键。

科技创新带来的改变，每一个阶段都是一个不容易的过程。训练和使用AI需要巨资注入、也产生高耗电，一台新台币3万元的PC以后可能要1,600万元才动的了，如果把导入AI当作企业界推动数位转型的招牌，也近乎是「AI幻觉」了。