美国加州州长否决AI安全法案 认为其阻碍创新

美国加州州长纽森否决了一项备受争议的人工智能法案SB 1047,他认为该法案将阻碍创新,无法保护公众免受这项技术带来的“真正”威胁。

该法案名为《前沿人工智能模型安全创新法案》,遭到了硅谷的强烈反对。它提议对人工智能模型和其他护栏进行强制性安全测试,科技公司担心这会扼杀创新。

纽森在声明中表示,“虽然初衷是好的”,但它可能会对加州新兴的人工智能公司施加不必要的限制。该法案过于关注监管现有的顶级人工智能公司,而没有保护公众免受新技术带来的“真正”威胁,“相反,该法案甚至对最基本的功能也采用了严格的标准——只要是大型系统部署它。我认为这不是保护公众免受这项技术带来的真正威胁的最佳方法。”

据一位了解他想法的人士透露,纽森之所以决定拒绝这项措施,是因为该法案只适用于最大、最昂贵的人工智能模型,而其他模型则不受监管。但较小的模型可能同样存在问题,因此纽森更希望有一个涵盖所有模式的监管框架。这位知情人士说,纽森希望明年与AI研究人员和其他专家合作,制定新立法,以更全面的方式解决他否决的法案所带来的同样担忧,即AI以其设计者无意的方式行事,但最终造成经济或社会损害。