美國加州通過人工智慧安全法案 加強監管AI

美国加州立法机构今天通过一项旨在监管强大人工智慧（AI）模型的法案，引起热议。（路透）

美国加州立法机构今天通过一项旨在监管强大人工智慧（AI）模型的法案，尽管有人强烈抗议这项法案可能会扼杀其试图控制的技术。

法新社报导，法案发起人、民主党加州参议员威善高（Scott Wiener）说：「我们的人工智慧安全法案SB1047刚刚在议会通过。我为这项法案背后的多元化联盟感到骄傲，这个联盟坚信创新和安全。」

这项法案叫做「前沿人工智慧模型安全创新法案」（Safe and Secure Innovation for Frontier ArtificialIntelligence Models Act），现已提交加州州长纽松（Gavin Newsom）签署，不过尚不清楚他对该法案的立场。

纽松必须在9月30日之前签署或否决该法案。

人工智慧安全中心（Center for AI Safety）主任亨德里克斯（Dan Hendrycks）表示，这项法案为实施「减轻关键AI风险的保障措施」提供「一条可行的前进道路」。

这项法案要求大型「前沿」AI模型的开发者采取预防措施，例如部署前测试、模拟骇客攻击、安装网路安全防护措施以及为吹哨者提供保护。

不过依然有人反对这项法案，其中包括一些有权势、家喻户晓的人物。美国民主党重量级人物、前众议院议长裴洛西（Nancy Pelosi）上周表示：「国会中有许多人都认为SB 1047立意良善，但资讯不足。」她指出，党内高层成员已向威善高表达他们的担忧。

但威善高认为，AI安全和创新并不互相排斥，对这项法案进行微调，解决了批评人士的部分担忧。