李学文专栏》AI「无所不知」的错觉

ChatGPT开发商OpenAI。图／美联社

ChatGPT很博学，上通天文，下谙地理，但我确定它有一本著作可能涉入不深，那就是《论语》。

《论语》〈为政篇〉中，子曰：「由！诲女知之乎？知之为知之，不知为不知，是知也。」孔子说：「子路啊，我告诉你，知道吗？知道的就是知道的，不知道的就是不知道的，这才是大智慧。」

我曾提过一案例。老友送我象牙果雕，我拿来就教于ChatGPT，它给的答案如下：「象牙果」一般指的是象牙制成的雕刻品，通常用于艺术品或者手工艺品中。由于象牙是大象牙齿的一部分，因此其制作与交易被广泛地视为非法和不道德。在许多国家和地区，包括美国和欧洲，出售和购买象牙制品已被禁止或限制。

据我的了解，象牙果又称为「椰子象牙」，是一种坚硬而稳定的天然植物材料，由于外观与象牙相似，因此被用来取代象牙，制作成手工艺品、珠宝首饰等。象牙果的采伐和加工对环境较没不良影响，又怎会变成非法和不道德的产物了？

接着，我又拿「长毛象牙雕」问它，它回答：长毛象牙雕是一种传统艺术形式，是在长毛象牙上进行的雕刻，早在数千年前就已存在。然而，随着野生长毛象的濒危及对野生动物保护的关注和国际公约的制定，长毛象牙的贸易和使用已受到限制。

众所周知，长毛象早在距今约3700年前就大灭绝，今日又如何濒危？很显然地，ChatGPT把非洲象、长毛象及象牙果都混为一谈了。

ChatGPT是近几年爆红的AI应用，它正在成长的过程，无法上通天文，下知地理，也是合理的。关键是，它不懂却又不愿意承认，虚应故事，造成使用者莫名承担资讯误用的风险，这点实在有点不道德。

过去一段时间，由于AI模型强大，许多科技巨头诸如微软、Google等，皆在快速发展像ChatGPT这类的生成式人工智慧，由于各大媒体不断报导，人工智慧似乎给予使用者一种「无所不知」的错觉，但现实上却是AI依然容易产生「幻觉」，提供错误答案并一本正经的胡说八道。

AI的幻觉问题是科技巨头急需解决的关键难题，尤其是对像微软这类大型企业，他们的客户无法承受AI偶尔失控所带来的后果和损失。媒体报导，云端软体巨头Salesforce执行长Marc Benioff指出，他看见许多客户对微软Copilot AI不断输出胡言乱语，影响工作任务而感到愈来愈沮丧。

以上描述不啻说明AI最缺乏的，就是「知之为知之，不知为不知」的大智慧。

微软副总裁Vik Singh近日接受外媒采访时也指出，当今科技界真正缺乏的AI模型，其实是那些会主动举手求救，并且对人类说出「我不确定，我需要帮忙」的人工智慧应用。现在，真正聪明的工程师，其实已经将AI的开发方向，转为试图找到「如何让聊天机器人主动承认，当AI不知道正确答案时，依然能够对外寻求帮助」的新方法。

如果以人文的角度来看这类知识型的AI应用，若要其真正成为人们所依赖的数位工具，有三个阶段。资料／整理过的资讯／精确的资讯。

资料（Data）可以是一堆整理或未整理过的文字、数字、档案。资讯（Information）则是处理过的，而且是有用的资料。资料的处理往往包括分类、归纳，以及分析、解释等过程，处理的过程会让资料变成有意义的资讯。若用这样的描述来分析ChatGPT与Google的搜寻引擎，真是再恰当不过了。

只是，ChatGPT为德不卒，虽然提供使用者的服务从资料变成资讯，但还是因为不愿承认所知有限、不愿喊救命而错失自我提升的机会。所幸，AI的开发方向似乎有转变的迹象，我认为，只要科技公司能继续推动AI往正确的方向前进，我们将会看到更加可靠的AI应用，未来仍然值得期待。

（作者为科技媒体专栏作家）