AI恐对人类造成「灭绝级威胁」 报告：美必须干预

美国一份调查报告指出AI恐对人类造成灭绝级灾难。（图:shutterstock/达志）

美国国务院最近委托民间公司进行人工智慧（AI）的研究，该报告指出快速发展的人工智慧将带来「灾难性」国安风险，并警告政府时间已经不多了，必须进行干预。一位美国国务院官员证实，此报告由美国政府委托调查，用以评估人工智慧如何保护国家利益。不过，该官员强调，报告并不代表美国政府的观点。

据《CNN》报导，美国国务院最近委托民间公司Gladstone AI进行人工智慧（AI）的研究报告，Gladstone AI断然指出，最先进的人工智慧系统，在最坏的情况下可能对人类构成「灭绝等级的威胁」，而这项调查结果是基于1年多来对 200 多人的采访，受访者来自人工智慧公司的高层、网路安全研究人员、大规模杀伤性武器专家以及政府内部的国家安全官员。

Gladstone AI 执行长兼联合创始人哈里斯（Jeremie Harris）接受《CNN》采访表示，「人工智慧已经是一项经济变革技术。它可以让我们治愈疾病、做出科学发现，并克服我们曾认为无法克服的挑战。」但也有可能带来严重的风险，「世界顶级人工智慧会议上发表的实证研究及分析等越来越多证据表明，超过一定阈值，人工智慧可能会变得不可控」。

Gladstone AI 表示，最先进的人工智慧系统可以武器化，造成不可逆转的伤害。其次，报告称，人工智慧实验室内部存在隐忧，研究人员可能会「失去对正在开发的系统的控制权」，对全球安全造成毁灭性后果。此外，人工智慧的兴起，有可能破坏全球安全的稳定，就像核武一样，各国可能会开始在人工智慧领域展开新一轮的军备竞赛。

Gladstone AI 的报告呼吁「美国政府显然迫切需要进行干预」，采取重大新措施来应对这一威胁，包括成立新的人工智慧机构，或实施紧急监管保障措施，以及限制运用电脑来训练人工智慧模型的能力。

Gladstone AI 表示，一些人工智慧公司员工私下也有类似担忧：「一家知名人工智慧实验室的人士表示，如果某个特定的人工智慧模型开放大众使用，那将非常糟糕，因为可能会用于干预选举或操纵选民，进而破坏民主。」

白宫发言人帕特森（Robyn Patterson）称，拜登有关人工智慧的命令，是世上任何承诺管控AI风险政府的最重要行动，强调美国政府将继续与国际伙伴合作，敦促国会通过两党立法来管理这些新兴技术相关的风险。