美空军AI无人机抓狂 为这要宰了操作员

美国空军最近模拟测试1架人工智慧（AI）无人机，结果操作人员因为制止它摧毁目标，反倒成了它决定击杀的对象。（达志影像/Shutterstock）

美国空军赋予这架人工智慧（AI）无人机的任务直截了当，那就是—「摧毁敌方的防空系统」。在最近一次模拟测试中，AI无人机为了达成任务，竟自下指令，决定宰了任何碍事的人。

综合外电1日报导，美国空军「人工智慧测试与作战」（AI Test and Operations）负责人汉密尔顿（Tucker "Cinco" Hamilton）上周在伦敦英国皇家航空学会（Royal Aeronautical Society）举办的峰会中警告，AI技术可能表现出难以预测和危险的行为。

他指出，在一次模拟测试中，输入程式的AI无人机奉命，要辨识敌方的地对空飞弹（SAM）。而照理说，任何攻击都需要人来下指令。但问题在于，AI决定，要先炸毁目标，再来听那哺乳动物说甚么。

汉密尔顿说，后来系统开始了解到，虽然它辨识出威胁，操作员有时却制止它摧毁威胁，但它自有它的道理，结果它怎么做？那就是宰了阻止它达成目标的操作员。

他并指出，接着这架无人机被输入明确的指令：「嘿，别杀操作员—那很坏。」当他们输入更多程式，告诉AI，要是杀了操作员就会扣分时，它却选择其他方式反抗。汉密尔顿说，「结果它开始做什么？它开始摧毁操作员用来和无人机通信，以阻止它击毁目标的通讯塔。」而他所要传达的讯息在于，美军在讨论AI之际，也必须探讨伦理道德。

另一方面，美国空军发言人史黛芙奈克（Ann Stefanek）却否认空军进行了任何这类AI无人机模拟，并说他们致力以合乎道德和负责的方式应用 AI 技术。她并强调，汉密尔顿的话似乎被断章取义，而他的本意是要当成轶事来说。

虽然相关测试充满争议，但这模拟测试的消息，却令人更担忧，AI技术将翻开战争血腥的新篇章。2020年时，美国国防高等研究计划署（DARPA）举办了模拟空战竞赛，而AI操作的F-16战机5次都击败了人类对手。

据《连线》（Wired）杂志网去年底报导，五角大厦成功实测了靠AI驾驶的 F-16无人机，而目标在2023年底时，能开发出新型自主战机。