法律观点－欧盟人工智慧法概览

图／摘自Pixabay

欧盟执委会（EU Commission）于2021年提出「人工智慧规则草案」，在今（2024）年2月2日获得欧盟理事会（Council of the EU）的一致同意，正式成为欧盟「人工智慧法」（Artificial Intelligence Act）。值得在欧盟地区提供产品或服务的厂商关注的是，该法律对于AI的定义相当广泛，许多市面上常见的产品均会落入，且违反法规的罚则相当严峻。

■对AI定义相当广泛，

违法罚则相当严峻。

该法对AI的定义为：一种基于机器的系统，旨在以不同程度的自主性运作，并且在部署后可能表现出适应性，该系统根据其接收的输入，为了明确或隐含的目标，推断如何生成输出，如预测、内容、推荐或决策，这些输出可以影响现实或虚拟环境。此定义非常广泛，一般常见的餐厅、旅游推荐系统均可能落入。只有输入内容可以全然决定输出内容之系统（例如电子计算机输入10x10，输出一定是100），可以明确地被排除在管制范围以外。设定AI之定义以后，该法将其依照作用及应用领域，依照风险分为三级：绝对禁止、高风险及一般风险。

绝对禁止的AI，包含以潜意识技术改变个人意识、显著削弱个人或群体作出明智决策的能力，从而使人做出他们在正常情况下不会做出的决策；利用某人或特定群体因年龄、残疾或特定社会或经济状况而存在的脆弱性，扭曲该个人或该群体某个人行为造成个人或他人重大伤害；基于生物特征数据对自然人进行个体化分类以推断或推定他们的种族、政治观点、工会成员资格、宗教或哲学信仰、性生活或性取向的生物特征分类系统；类似中国采取之社会评分系统；在工作场所或教育机构，除出于医疗或安全原因，推断其中人们的情绪等。

■以潜意识技术改变个人意识

，列为绝对禁止等级

近年来潜意识技术改变个人意识的一个著名案例是脸书剑桥分析案。数据科学家Aleksandr Kogan于2013年推出透过一款称为「This Is Your Digital Life」的应用程式，设计了一连串的问题来创建使用者的心理分析档案，并透过脸书的Open Graph平台获取了用户及其好友的个人讯息。该应用程序最终搜集了约8,700万用户的数据。剑桥分析除了使用这批数据来为川普2016年竞选美国总统提供数据分析服务，亦被普遍认为干涉了英国脱欧公投，此事件更被改编为电视剧《脱欧之战》（Brexit：The Uncivil War）。

社交平台演算法常有「回音室」的效果，创造出一个虚拟生态系统，参与者本身的想法或偏见通过在一个封闭系统内的沟通和重复来放大或强化他们先前的信念，并隔绝于反驳之外。人工智慧法禁止利用某人或特定群体因年龄、残疾或特定社会或经济状况而存在的脆弱性，扭曲该个人或该群体某个人的行为造成个人或他人的重大伤害，然而有反社会人格特质的个人却容易透过演算法找到有相同特质的同好，透过互相取暖、鼓励中提升实际采取危害自身或社会行动之风险。上述作为吾人共同新闻记忆的应用，在人工智慧法施行后可能被禁止或落入灰色地带。

高风险的AI，作为产品本身或产品安全组件的人工智能，而此类产品受欧盟关于民用航空、车辆安全、海上设备、玩具、升降机、压力设备和个人防护装备等之法律管制。远程生物特征识别系统、用作关键基础设施安全元件的人工智能、以及在教育、就业、信用评分、执法、移民和民主程序中使用的人工智能。

提供高风险AI系统业者将受到高度管制，它们需进行风险分析、采用品质优良的资讯、纪录其技术及道德决策、追踪系统效能的纪录、向使用者说明系统的本质与目的、保障人类的监控与干预可能性、以及确保系统的精确性、坚固性和网路安全。此外，在将系统上市或开始服务前，他们还需检验系统是否遵循了规定标准，并需在一个对大众开放的欧盟资料库中进行系统的注册。

■欧盟人工智慧法

估下半年公布与生效

人工智慧法在欧盟官方公报公布的时间可能将落在今年年中，而于公布日后之第20日生效。在生效日后六个月，欧盟各国将对绝对禁止的AI及业者实施管制及罚则，违法者最高可处3,500万欧元或公司全球年度总营业额的7％之罚款。人工智慧法后续细致化及发展，值得在欧盟地区提供产品或服务的厂商持续关注。