时论广场》AI失控的赛局（张瑞雄）

ChatGPT横空出世，重新点燃了科技公司之间开发和部署类似AI工具的军备竞赛。OpenAI、微软和谷歌处于这一趋势的浪头，但IBM、亚马逊、大陆的百度和腾讯也在开发类似的技术。（示意图／达志影像）

去年年底，ChatGPT横空出世，受到的关注浪潮，重新点燃了科技公司之间开发和部署类似AI工具的军备竞赛。OpenAI、微软和谷歌处于这一趋势的浪头，但IBM、亚马逊、大陆的百度和腾讯也在开发类似的技术，一串的新创也在开发各种使用生成式AI的工具。

一些人工智慧专家越来越担心AI工具所产生的偏见、传播虚假资讯以及对消费者隐私的影响，这些工具也引发了关于AI如何消灭工作、帮助学生作弊以及改变我们与科技的关系等问题。因此最近由一些科技界知名的人士领头（包括苹果电脑创办人之一沃兹尼亚克和特斯拉创办人马斯克）发表一封公开信，恳请所有人工智慧实验室暂停至少6个月对AI训练的工作，因为AI会对社会和人类带来「深远的风险」。

公开信警告说人工智慧正在「陷入一场失控的竞赛，部署越来越强大的数位智慧，没有人（甚至是它们的创造者）能够理解、预测或可靠地控制。」

这封信发表的时间距离OpenAI宣布一个更强大的GPT-4版本仅有两周，这个版本比ChatGPT更厉害，吓坏了教师、记者以及任何依靠建立和/或验证内容的人。在展示中，这个升级版似乎更加先进，可以起草诉讼内容、通过标准化考试、看懂图片、并从手绘草图建立一个可以运作的网站。

「先进的人工智慧可能代表了地球生命史上的深刻变革，应该以相对应的谨慎和资源来进行规画和管理。」信中写道。不幸的是，这种相对应程度的规画和管理并没有发生。

信中建议AI实验室和独立专家，应利用这个暂停期间共同开发和实施一套共用的高级AI设计和开发安全协议，由独立的外部专家进行严格的审核和监督。这并不意味着对AI开发的总体暂停，仅仅是从危险的竞赛中退一步，这些竞赛导致越来越大的不可预测的黑盒子——AI模型具有难以掌控的新能力。

这封信既反映了业界对近期AI大规模推向市场的真正担忧，也带有一点新派卢德主义（Neo-Luddism， 捣毁科技设备或弃之不用，提倡简朴的生活）的恐慌。此外，一点点恐慌能够吸引那些对AI产生怀疑的媒体注意力（毕竟记者们害怕AI将取代他们的工作，可以在几秒钟内喷出令人信服的文字）。

当然也有科学家对此表示荒谬，虽然这封信表达了合理的担忧，但要求研究人员暂停工作可能只是为了帮助署名的某些人保持在AI领域的主导地位（马斯克可能不受人信任）。企业的野心和主宰欲望往往战胜了道德问题，如果这些署名的组织正在测试比ChatGPT或谷歌的Bard更先进的东西，大家也不用感到惊讶。

过去社会有对其他可能对人类产生灾难性影响的技术暂停使用，这些例子包括人类的复制、人类生殖细胞的基因修改和优生学等等，AI是否属于同一等级？而且6个月之后呢？

（作者为叡扬资讯数位转型大使、台北商大前校长）