美国对人工智能相关运营商提出报告要求
美国商务部给尖端人工智能模型的开发者以及租用训练此类模型所需基础设施的人员,提出了一整套新的报告要求。...
周一公布的这些[PDF]规则,是对拜登政府去年秋季颁布的有关‘安全、可靠和值得信赖的人工智能开发及使用’这一行政命令的回应。
这一行政命令给开发大型人工智能计算集群和/或者训练前沿模型的人员制定了临时报告要求。该命令还指示商务部确定并保持永久性报告标准。
就像我们当时报道的那样,临时限制只是针对最大的模型和计算集群。
更新后的规则规定,训练时需要超过 1026 次整数或浮点运算的模型必须进行报告。
主要基于生物序列数据训练的模型,其阈值较低,为 1023 次运算。
根据拟议规则的公告,开发此类项目的实体还需披露其模型的能力、信息安全保护措施以及任何红队工作的成果,以确保人工智能技术“符合严格的安全和可靠性标准,能够抵御网络攻击,被外国对手或非国家行为者滥用的风险有限”。
该部门最为关心的是,如果不采取行动来测试、识别和减轻这些威胁,足够先进的模型或许会被用于助长网络犯罪——或者降低开发生物、化学、核武器和脏弹的门槛。
这些规则还要求基础设施运营商报告其计算集群在超过 300Gbit/秒网络容量的情况
需要提醒的是,假设采用 FP8 精度,这相当于由通过 400Gbit/秒的 InfiniBand 连接的 50,530 个 H100 GPU 所组成的集群,或者在人工智能训练中更常用的 16 位精度下,由 101,060 个此类加速器组成的集群。
虽然报告计算能力的阈值未发生变化,但拟议的规则把互连带宽从 100Gbit/秒提高到了 300Gbit/秒。这些规则还明确指出,我们所谈论的是密集计算能力,而非英伟达及其竞争对手时常吹捧的稀疏浮点数学
根据这些规定,那些运营集群若已经超过此阈值,或者预计在下个月会超过,都将被要求按季度报告其运营范畴。
虽然这些数字在一年前或许看起来颇为巨大,然而人工智能创新的规模和速度已大幅提升。
一些诸如 Meta 之类的超大规模企业,正在部署数十万个 GPU。不过,我们预计受这些规定约束的基础设施提供商名录会相当短。
“随着人工智能的迅猛发展,它既拥有巨大的前景,也存在风险。这项拟议的规定将助力我们跟上人工智能技术的新进展,从而强化我们的国防并保障我们的国家安全,”商务部长吉娜·雷蒙多在一份事先备好的声明中宣称。
若在 30 天的评论期结束后获得批准,拟议的规则将被编入工业和安全局的工业基础调查数据收集相关法规之中。
人工智能的两用应用,即那些既存在和平用途又具有非和平用途潜力的应用,已经处于美国政府的关注范围内有一段时间了。
早在 1 月份,商务部就提出了一些规则,要求某些基础设施即服务提供商举报任何使用其服务来训练可能具有两用应用的大型人工智能模型的外国人。
虽然该提案未指名道姓,但这些措施的其隐含目标是中国,这是众所周知的——中国通过在美国境内租用的基础设施运行工作负载,以规避美国针对人工智能加速器的贸易限制。
就在今天的提案提出不到一周前,该部门还加强了对向中国、伊朗、俄罗斯和其他相关国家的量子计算和半导体出口的控制。 ®