美政府与 OpenAI 等签协议测评人工智能

美国政府已与 Anthropic 以及微软（MSFT）支持的 OpenAI 签署协议，用于对其人工智能模型进行研究、测试和评估。

依据临时协议，美国人工智能安全研究所将在每家公司的主要新模型公开发布之前和之后获得访问的权限。

美国商务部国家标准与技术研究院（NIST）旗下的美国人工智能安全研究所称，这些协议将促进就如何评估能力和安全风险以及降低这些风险的方法开展合作研究。

“安全对于推动突破性技术创新至关重要。有了这些协议的达成，我们期待着开始与 Anthropic 和 OpenAI 进行技术合作，以推进人工智能安全方面的科学研究，”美国人工智能安全研究所所长伊丽莎白·凯利（Elizabeth Kelly）说道。

OpenAI 和 Anthropic——其得到了亚马逊（AMZN）以及 Alphabet 旗下（GOOGL）（GOOG）谷歌的支持——一直在开发大型语言模型（即 LLMs）方面处于前沿位置。这些 LLMs 为诸如 OpenAI 的 ChatGPT 和 Anthropic 的 Claude 之类的 AI 聊天机器人提供动力支持。

这些协议达成之时，在全球范围内关于人工智能道德和安全使用的讨论正在进行。

本周早些时候，OpenAI 公开表示支持一项正在加州州议会审议通过的法案，该法案旨在缓解人工智能生成内容的滥用。