AI風險管控／AI發展殿後 歐盟急推法案

欧洲议会去年6月14日以压倒性票数，通过全球第一个人工智慧法案，今年8月正式生效。（路透）

"马克宏说，相较于北京模式是由政府管理的创新模式，美国模式是由私人管理，欧洲模式将是结合公共与私人的中庸之道，是更理想的第三条路。"

欧盟人工智慧法案（AI法案）8月1日正式生效，是全球首部规范AI开发和应用的法律，欧洲理事会也宣布「人工智慧与人权、民主、法治纲要公约（AI公约）」9月开放参与协商的各国签署。欧洲AI发展落后美国和中国大陆，立法却跑第一，法国总统马克宏明言，欧盟AI法案用意之一是将监管措施化为竞争优势，盼欧洲AI发展迎头赶上。

根据世界智慧财产权组织（WIPO）的数据，以当今AI领域最热门的生成式AI而言，过去十年，大陆提交超过38000项专利申请，美国6276项，接着依序是南韩、日本、印度。

专利数目是重要指标，这个数字可以说明为何美国要加强限制AI相关高科技产品销往大陆，而AI专利前5名没有任何欧洲国家。难怪马克宏会承认，大陆与美国对AI的投资比欧洲多得多，「欧洲人有点落后」。他认为，欧盟应建立自己专有的AI模型，和华府与北京平起平坐。

AI法案是欧盟的招数之一。法案由欧盟执委会于2021年4月提案，2024年3月由欧洲议会通过，5月获欧盟成员国批准，8月生效。法案为欧盟制定全面且一致的管理架构，目的是防范AI产生的负面影响。

AI依风险程度分为四级

法案适用提供欧盟市场AI系统的企业和位于第三国的AI系统提供商，也就是美国和大陆的AI业者想在欧盟营运都要遵守。

法案依据风险程度将AI系统区分为四级，若属不可接受风险将被禁用，最小风险则几乎不管理。

陆监控评分 遭AI法案禁止

在「不可接受风险」中，AI的应用若与欧盟价值、基本权利相悖，或威胁民众生命和基本权利，一律禁用。例如，在大陆实施、以大数据和监控为人民行为打分数的「社会信用评分系统」，就被欧盟AI法案禁止。

对于高风险的AI应用技术，引进前即课以严格义务，包括适当的风险评估、减灾系统、例行活动纪录、人为监督与网路安全等要求，被列入此等级的AI技术包括自动驾驶汽车、医疗设备、贷款决策支援系统、教育评分及远端生物辨识系统。

有限风险的AI应用技术，因为对公民的风险较小且容易控制，法案仅设立「透明性要求」，即企业负有告知义务，让使用者明确知道正与机器互动，可决定互动是否继续。

美国是目前大多数先进AI系统的建造与研发商，美国大型科技企业将成为AI法案主要适用对象。大陆企业也必须遵守严格的数据隐私与安全标准，高风险AI系统将被要求提供详细资讯数据，例如抖音透过「演算法」分析用户行为及偏好，可能受到严密监管。

如果企业违反欧盟AI法案，最高可能被处以3500万欧元（约台币12.4亿元）或全球年营业额7%的罚款。

欧盟执委会今年2月成立的AI办公室，将负责该法案的监管事宜。法案给予企业过渡期，使其系统合乎法规，大部分条款要到2026年才会正式上路。

美欧英公约 强调人权民主

除了AI法案，美国、欧盟、英国还签署全球第一份针对人工智慧的公约，标榜具法律效力。这项由欧洲理事会发起的AI公约，强调人权与民主价值。

欧洲理事会于2022年设立AI委员会，起草并协商相关条文。经46个理事会成员国与美、英、日等11个非成员国的讨论，于今年5月通过，9月5日开放参与协商国家签署。

签约国可选择通过公约，或采取行政等方式实施公约。不过，非营利法律基金会欧洲中心的专家法努奇认为，公约中原则与义务过于空泛，恐产生法律确定性与执行争议。

与AI法案不同，AI公约旨在保障受AI系统影响者的人权，避免AI侵蚀欧洲传统法治价值。

对于欧洲这些动作，法国总统马克宏说，相较于北京模式是由政府管理的创新模式，美国模式是由私人管理，欧洲模式将是结合公共与私人的中庸之道，是更理想的第三条路。