海纳百川》追求AI进步 要如履薄冰（张瑞雄）

神秘的Q*AI系统的猜测凸显了人们对AI进展的兴奋和谨慎。（图／Freepik）

最近火红的AI议题就是OpenAI执行长的去职和复职，牵涉其中的关键之一是OpenAI所进行研发的新一代AI系统，代号Q*。近期关于神秘的Q*AI系统的猜测凸显了人们对AI进展的兴奋和谨慎，虽然详细资讯仍然有限，但Q*似乎指向具有更先进推理和解决问题能力的AI系统，但是关于这种强大AI的安全性和伦理性仍然非常令人担忧。

Q*被描述为一个能够解决基本数学问题的系统，超越了现有AI模型的能力，可能在规画、推理和处理复杂的多步骤任务等领域有更强大的技能。Q*似乎能够解决以前没有见过的数学问题，路透社也表示该系统可以执行「与小学生水准相当的数学问题」。

数学和解决问题的能力将是AI的一个飞跃，数学需要理解问题，找出解决问题的步骤，并进行计算，它更接近人类认知和推理。当前的大型语言模型在处理长时间、多步骤的数学问题时缺乏「外部的草稿空间」（类似人类的计算草稿纸），Q*可能采用创新技术将问题分解为更容易处理的部分，让模型生成多个可能解决方案的方法，再用另一个「验证器」模型来评估这些解决方案。

但仍然存在关键障碍，如整合实现无监督学习和在解决问题时即时学习的能力。随着AI发展出目前仅供人类拥有的能力，责任和关切问题也随之而来，担心扩展的AI能力可能会导致失业和偏见的扩散。

因此，虽然Q*因其明显的进展引起了人们的注意力，但许多人更敦促要谨慎行事。首要任务必须是充分的安全预防措施和最高水准的道德实施，与其过度炒作理论上的能力，焦点应始终放在负责任的AI，要被证明是安全和可靠的。

对Q*专案的关心抓住了AI进步中既有希望又有危险的关键时刻，它代表了令人印象深刻的技术进步，但在快速创新、伦理和谨慎之间存在紧张的背景中，前一阵子OpenAI的一封内部警告信披露AI研究的领先也要伴随着深刻的责任。

看到这些问题，欧盟立法者最近已就监管AI的立法条款达成一致，推动制定世界上对AI技术发展最严格的监理。这是一项历史性的协议和里程碑，「AI Act」不仅仅是一本规则手册，它还是欧盟新创公司和研究人员引领全球AI竞赛的启动平台，大科技公司如何来配合和继续AI的军备竞赛，就有待时间来证明。

随着AI演算法变得更加自动和自治，慢慢前行并首先设置保障措施的压力越来越大。在AI领域开辟新的道路要如临深渊如履薄冰，科技的突破如果不小心去开发和部署，会引入复杂的和不可预知的风险。因此虽然Q*既引起了对AI可能性的兴奋，也同时引起了对AI危险的担忧，明智的前进方式就是要继续追求AI的进步，但前提要始终立足于AI的安全和公共利益的伦理义务。（作者为台北商业大学前校长）

※以上言论不代表旺中媒体集团立场※