争议不休 加州州长否决AI监管法案

美国颇具争议性的生成式AI监管法案,尽管获得学界支持,然而科技巨头强烈反对。图/freepik

美国颇具争议性的生成式AI监管法案,尽管获得学界支持,然而在OpenAI、Meta等科技巨头强烈反对下,法案在29日遭加州州长纽森(Gavin Newsom)否决,象征这项技术在近期内的发展,暂时不受限制。

纽森表示,该项法案「未考虑AI系统是否部署在高风险环境中,或是否涉及关键决策或使用敏感数据,且即便是最基本功能的大型模型,也得套用严格的标准。」

编号SB 1047的法案规定,AI模型的开发者须确保其技术不会成为「足以造成严重损害的不合理风险」,也就是造成至少5亿美元财损或大规模伤亡的网路攻击。此外,法案还规定开发人员须确保AI出现危险行为时,得以被人类关闭。

法案也规定无论企业总部位于何处,只要在加州执行业务,都受到法案限制。而加州为AI企业重镇,若法案通过,将成为全美、甚至是全球的指标性法案。

法案适用对象为一定运算能力、训练成本至少为1亿美元的AI模型,条件相当于OpenAI最大模型GPT-4的估计成本。然而,较大的模型通常会处理像是客服等低风险活动,较小的模型反而容易涉及电网和医疗记录等敏感资料。

Google、Meta、微软以及 OpenAI等巨头认为,法案以安全为名义增加模糊的标准;也有许多小公司加入反对行列,认为法案将导致大型开发商停止模型开源,进一步破坏这块仰赖开放和创新的产业生态。

科技公司则认为,法案所称的「不合理风险」成为法律陷阱。矽谷创投公司Andreessen Horowitz负责AI投资的合伙人卡萨多(Martin Casado)说:「没有人知道这是什么意思,所以是将问题留给非技术专业的法庭。」

「AI教父」辛顿(Geoffrey Hinton)和班吉欧(Yoshua Bengio)是法案坚定的支持者。业界也有不同声音,另一AI开发公司Anthropic认为获利大于成本,不过仍然对法案部分定义存疑;xAI负责人马斯克8月时表示,加州可能应该通过该项法案。