OpenAI称加州争议AI法案将损害创新

鞭牛士报道，8月22日消息，据彭博社报道，OpenAI 反对加利福尼亚州的一项对人工智能公司提出新安全要求的法案，并加入了最近反对这项有争议的立法的科技领袖和政界人士的行列。

据彭博新闻社周三收到的一封致加州参议员斯科特·维纳办公室的信函，这家总部位于旧金山的初创公司表示，该法案将损害人工智能行业的创新，并认为该问题的监管应该由联邦政府而不是各州来制定。

这封信还引发了人们的担忧，即该法案如果获得通过，可能会对美国在人工智能和国家安全方面的竞争力产生广泛而重大的影响。

维纳提出的 SB 1047 旨在为生产超过特定尺寸和成本门槛的大型人工智能模型的公司制定其办公室所谓的常识性安全标准。

该法案于 5 月在州参议院获得通过，要求人工智能公司采取措施，防止其模型造成严重伤害，例如促成可能造成大量人员伤亡或造成超过 5 亿美元经济损失的生物武器的开发。

根据该法案，公司需要确保人工智能系统可以关闭，采取合理谨慎措施，确保人工智能模型不会造成灾难，并向加州司法部长披露合规声明。如果企业不遵守这些要求，他们可能会被起诉并面临民事处罚。

该法案遭到了许多大型科技公司、初创公司和风险投资家的强烈反对，他们表示，对于一项仍处于起步阶段的技术来说，这是越权行为，可能会扼杀该州的技术创新。

一些批评该法案的人担心，这可能会将人工智能公司赶出加州。

OpenAI 在致维纳办公室的信中也表达了同样的担忧。

OpenAI 首席战略官 Jason Kwon 在信中写道：人工智能革命才刚刚开始，加州作为全球人工智能领导者的独特地位正在推动该州的经济活力。SB 1047 将威胁到这种增长，减缓创新步伐，并导致加州世界级的工程师和企业家离开该州，到其他地方寻找更大的机会。

据一位熟悉该公司房地产计划的人士透露，由于担心加州监管环境的不确定性，OpenAI 已暂停有关扩大其旧金山办事处的讨论，该人士要求匿名讨论内部对话。

维纳在一份声明中为拟议的立法辩护，并表示 OpenAI 的信没有批评该法案中的任何条款。

他还表示，关于人工智能人才离开该州的论点毫无意义，因为该法律将适用于在加州开展业务的任何公司，无论其办事处位于何处。

维纳办公室的一位代表指出，两位著名的国家安全专家公开支持该法案。

「SB 1047 是一项非常合理的法案，要求大型人工智能实验室做他们已经承诺要做的事情，即测试他们的大型模型是否存在灾难性安全风险。」维纳说。「SB 1047 根据我们所知的可预见的人工智能风险进行了很好的校准，值得颁布。」

批评者认为，该法案要求公司向州政府提交有关其模型的详细信息，这将阻碍创新，并阻止小型开源开发商创建初创企业，因为他们担心被起诉。

上周，为了解决一些阻力，维纳修改了拟议的立法，取消了不合规的科技公司的刑事责任，增加了对小型开源模型开发商的保护，并取消了新提出的前沿模型部门。

此前，开发商如果故意向政府提交有关其安全计划的虚假信息，可能会受到伪证处罚。OpenAI 的竞争对手 Anthropic 以比竞争对手更注重安全而闻名，该公司此前曾表示将支持该法案的一些修正案。但即使在修正案出台后，该法案仍继续遭到反对，包括前众议院议长南希·佩洛西 (Nancy Pelosi)，她发表声明称该法案消息不灵通。

一群民主党国会议员也公开反对该法案。

根据州政府文件，OpenAI 和其他科技行业公司已经聘请了一直在为该法案工作的说客。

OpenAI 在信中表示，它已经与维纳的办公室就该法案进行了几个月的接触，但最终并不支持该法案。

「我们必须通过一系列联邦政策（而不是州政策）来保护美国的人工智能优势，这些政策可以为人工智能实验室和开发者提供清晰度和确定性，同时还能保护公共安全。」信中写道。

OpenAI 认为，白宫科技政策办公室、商务部和国家安全委员会等联邦机构比加州州级政府机构更适合管理关键的人工智能风险。

该公司表示，它支持几项拟议的联邦立法，例如《人工智能创新未来法案》，该法案为新的美国人工智能安全研究所提供了国会支持。

「正如我反复表示的那样，我同意理想情况下国会会处理这个问题。」维纳在声明中说。 「然而，国会并没有这样做，我们也怀疑国会是否会这样做。根据 OpenAI 关于国会的论点，加州永远不会通过其数据隐私法，而且鉴于国会缺乏行动，加州人的数据将得不到任何保护。」

SB 1047 将于本月某个时候在加州议会进行投票。

如果获得通过，它最终将移至加州州长加文·纽森的办公桌上。虽然纽森没有表示他是否会否决该法案，但他曾公开表示需要在降低风险的同时促进加州的人工智能创新。