海纳百川》智能产业的伦理观和风险治理（徐作圣）

在OpenAI执行长阿特曼（Sam Altman）被董事会宣布开除前，多名研究团队成员曾写信警告董事会，称人工智慧未来可能对人类造成威胁。（中央社）

OpenAI在2023年11月的大内斗掀开了人工智能的神秘面纱，但「奇点转折、文明灭绝」的通用人工智能 （AGI）的阴影挥之不去，LLMs 缺乏有效的获利模式但烧钱太大、太快也造成组织治理极大的困扰。

腾讯公司首席经济顾问朱嘉明表示，全球科技革命正在逼近「奇点」，影响未来人类社会的走向；世界正在开始从经济主导科技到科技主导经济的转型，而人工智能的技术将首次超越人类，这个独特（Uniqueness）技术能力的分水就叫做奇点。

随着「智能奇点」的争议逐渐明朗化，智能技术的伦理观与治理观逐渐受到各界的重视，而其理论基础主要包括二类：生物/物理学派的「涌现演化论」（Biophysical Evolution）和社会伦理治理论（Socio-ethical Governance）。前者主要是以物理学为基础，包括时间循环、耗损系统、系统涌现理论、奇点理论等，由人工智能技术开发业者、资讯科技学者及菁英所支持；后者则多为社会学者、政府机构、ESG及企业伦理/社会治理等。

从大型语言模型LLM的「文字接龙」连结到系统科学中失控的「奇点」，整个智能系统透过「异物同生」（Chimeric symbiosis）和自主共同认知和组织（Stigmergic Organizations）等特质，发展成为系统性的结构，而在分散式体系的形成过程中，ESG及企业伦理/社会治理成为不可或缺的元素以维持系统的运作。

矽谷巨头纷纷宣称2030年以前AIGC会无所不在（omnipresent）、无所不能（omnipotent），在这个快速变迁的网路环境中，台湾绝不能缺席。台湾发展人工智能技术多年，主要是聚焦在技术面，但企业在未来发展策略的选项上也必须谨慎从事，而政府在AIGC产业的诉求也该明确，在经济挂帅的「涌现演化论」和社会公平「优质生态环境论」中取得适度的平衡，如此才是王道，数位部准备好了吗？

OpenAI的LLMs 给了全球高度的期待，但缺乏有效获利模式，但烧钱太大、太快，且组织治理有极大的问题。OpenAI的首席科学家Ilya Sutskever 在偶然的机会中感觉AGI有拟人化的趋势，若进一步的扩张则可能造成文明灭绝，科技伦理与组织治理必须优先考虑这个「奇点」因素，但执行长Sam Altman 似乎并未考虑调整技术发展的方向。

优质的生态系统是智能产业的存活关键，而横向往应用端整合远优于纵向垂直整合（但矽谷企业却以后者为优先），在系统可能失控的时刻，奇点伦理治理必须建构在人本治理的基础上，也就是以人为中心的治理模式（Human-Centered Governance）。亚马逊所投资的新兴企业Anthropic，就是利用OpenAI的离职员工Dario Ameodei，来专职从事智能伦理方面的研究，希望发展出更具伦理规范的LLMs技术，可预见的是：智能伦理也将成为人工智能发展的新趋势。

矽谷高科技三大族群：华人富不过三代，犹太族群「不择手段」与吃干抹净策略经营千秋万代，但印度人不会告诉你真正的家族传承。华人传统上专精于技术、印度裔积极争取所有高科技的掌舵，但年轻一代的犹太族群，如OpenAI 首席科学家 Ilya Sutskever，或义大利籍的Anthropic执行长Dario Amodei等人，已逐渐从「纯市场金流」的考量中蜕变出来，开始关心智能产业治理的伦理观及社会责任。

台湾自2016年以来，在科技部的主导之下，政府独尊人工智能技术，但技术实质的开展成果却乏善可陈。在欣赏完OpenAI的大内斗之后，台湾产官学研各界除了「隔岸观火、评头论足」外，又学到了什么？而矽谷菁英在面临「奇点威胁」的时刻，把智能伦理与风险治理放在优先开发的清单中，台湾各界又得到了什么启示？

台湾主管人工智能产业的三大部会，国科会主掌基础技术与学术研究、经济部主管市场应用、数位部主管基础建设与产业规范，但这三大部会中，国科会缺乏智能技术专业、经济部也没有市场运作的知识、而不作为的数位部不具备智能伦理与产业规范的知识，台湾已沦为只知模仿「恋尸矽谷」、摇旗呐喊、搞烟花综艺式「面线平台」等宣传活动的智能产业边缘化地区了！三位有志于总统大位的候选人想清楚了吗？

（作者为国立阳明交通大学科管所退休教授）

※以上言论不代表旺中媒体集团立场※