AI武器未來戰（下）：「無人機」的新世界大戰？

军用无人机，预料会是列强国家争夺的下个军事战场。图为美军开发第一款专门用作猎杀用途的军事无人机——MQ-9死神侦察机（MQ-9 "Reaper"）。 图／路透社

▌前篇：〈AI武器未来战（上）：「杀手机器人」的禁令谬误？〉

过去在CCW专家会议上，反对LAWS者曾经举以色列的哈比无人机（IAI Harpy），做为自主武器的案例讨论。Harpy开发于上世纪九零年代，目的在于摧毁敌方雷达系统，后来以色列出售给中国，中国又疑似以此为原型山寨产生了ASN-301无人机。

若照LAWS反对者的逻辑，凡是设计用来攻击的无人机都属违法。反对LAWS者认为，无人机应用在军事上的复杂性让人类难以处理。例如有报告指出，在巴基斯坦，美军以无人机猎杀恐怖份子及其帮手，他们宣称准确度超过99.99％，被错误归类为恐怖分子的机率仅有0.008%。机率看起来极低，但换算成人口数却是约上万人。

有报告指出，美军在巴基斯坦以无人机猎杀恐怖份子，虽然宣称准确度超过99.99％，被错误归类的机率仅有0.008%。机率看起来极低，但换算成人口数却是约上万人。图为反战NGO团体「Codepink」在2013年在美国的「无人机展览会」场外抗议。 图／法新社

这就牵涉到责任议题。如果战争时发生违反国际法规则或道德规范的错误，谁应该负责任？是操作的士兵、下令的指挥官、编程LAWS的设计者，亦或是授权的官僚体系呢？

目前还可从涉及其中的人类究责，但未来如果AI真能完全自主，那么它必然是从经验和环境中学习，做出反映学习成果的决定。如此发展下去，设计者也无法预测与控制，更难以抓出特定人士为后果负责。

此外，反对者也认为军队多是利用黑箱算法处理数据，算法恐有偏见与谬误。现在的AI对于固定的物体，像是家具或动植物，拥有较为可靠的标记和分类能力。但如果谈到训练AI去理解复杂现象，基于数据与技术有限，可能会导致完全错误的结果。

反对LAWS者特别举例自动脸部识别，在应用上存在很多问题。麻省理工的研究指出，IBM、微软等科技巨头所设计的脸部识别算法，根据性别与种族会有不同的结果。例如研究发现，在侦测时，比较浅肤色的男性与深肤色的女性，错误率高达35％。

自动脸部识别科技在应用上存在很多问题。麻省理工的研究指出，IBM、微软等科技巨头所设计的脸部识别算法，在侦测时，肤色较浅的男性与深肤色的女性，错误率高达35%。 图／路透社

也有其他研究支持AI辨识存有偏见的结论，特别是在兵荒马乱间，涉及编程的参数不可能包罗万象，更具流动性和动态性。因此AI建议的行动方案多基于认知基础，而基础本身常常早已具有偏见。试想若应用于战场上，一些被错误认定的族裔遭受LAW攻击，会是多么严重的后果。

支持LAWS者则反驳，目前没有国家实际使用这类AI，无人机攻击仍须透过人类一定程度的控制。重点在于LAWS真正投入战场前要确保准确度，这里说的准确度并非百分百完美，只要能比人类更能减少伤亡，就是值得发展的方向。且人类很难透过战争学习，也不易传承，但AI没有此类问题，可以不断累积经验、纠正错误。

他们更强调，反对者把AI描绘成邪恶嗜杀的机器人绝对错误，他们认为技术本身没有问题，有问题的是使用者。未来的LAWS必须强调机器伦理，也就是设计者得在机器内输入和处理国际法等相关规范数据，并让AI深度学习，学到何种程度能上战场才是问题重点。

假设人类与完全自主的AI机器士兵交战，那么AI能预先编程，在达到某种确认度前不会以致命武力攻击。由于AI没有生命，可以装备足够承受火力的机甲；也没有恐惧与愤怒，不似人类会为自卫或情绪而先下手为强，可设定直到满足所有必要的条件才发动，这就是人类无法达到的地步。

电影《银翼杀手》经典片段

然而，不可讳言的是，LAWS确实可能具备强大的武装，使得反对者主张，其同属於潜在的大规模杀伤性武器（WMD），应该与核生化武器、或是常规武器及其附加议定书等量齐观，以国际法约束。他们担心如果LAWS落入恐怖组织手中，会带来极大伤亡，而国与国之间，也可能兴起一波AI军备竞赛，危害既有的和平。

像是无人机成本不高，非常适合当作攻击武器。饱受美国与以色列无人机威胁的巴基斯坦和巴勒斯坦，都疾声高呼要停止这种AI带来的人道灾难。前几个月，以色列刚公布一份报告就指出，2014年军队因为悲剧性失误，以无人机杀伤了四名孩童。

恐怖份子似乎也纷纷展开行动。今年7月在美国墨西哥州，一名负责公安的官员住家发现有携带炸弹的无人机坠落，所幸没有构成伤害，此事被怀疑与取缔毒品有关；8月在委内瑞拉，也发生针对总统的无人机攻击，有数人因此受伤，反对政府的民兵组织也已出面承认攻击。

随着商用无人机的普及，可能会出现更多自杀性爆炸，或是以其他恐怖主义模式威胁平民。曾经盛极一时的伊斯兰国，就使用过无人机侦测与袭击，甚至被用来吸引招募对战斗有兴趣的人们。据报导指出，伊斯兰国使用的无人机成本大多在1,000美元左右，坐实了反对LAWS者把无人机称为是「穷人的智能炸弹」。

无人机成本不高，非常适合当作攻击武器。饱受美国与以色列无人机威胁的巴基斯坦和巴勒斯坦，都疾声高呼要停止这种AI带来的人道灾难。图为2006年以色列无人机发动空袭，造成加萨走廊地区多人死伤。 图／路透社

无人机是将沦为「穷人的智能炸弹」？随着商用无人机的普及，可能会出现更多自杀性爆炸，或是以其他恐怖主义模式威胁平民。图为巴勒斯坦激进武装组织「哈玛斯」（Ḥamas）手持无人机。 图／美联社

对此，支持LAWS者反驳自主武器是WMD的说法，认为攻击用途的无人机并不违反国际法。绝大多数的国家也不会禁止无人机，因为其商用价值无可限量，且阻挠人类开发技术的障碍太低，真正有意义的作法是采取管理约束行为。换言之，这属于国内执法的范畴，无须联合国公约。

目前各国多少都有关于无人机的法规，如美国联邦航空管理局（FAA）去年制定新法，要求购买者登记重量在0.55磅到55磅之间的无人机，若未依法登记将受到民事或刑事处罚；中国同样也要求重量在250公克以上的无人机实名登记，近来更规定部分特殊区域无人机操作者，必须拥有执照许可。

另一方面，军事无人机的使用并非如想像中的简单顺遂。2011年CIA的无人机在伊朗进行任务时坠毁，现在大多认为是伊朗利用骇客入侵GPS使其降落，也就是模仿发送到GPS的信号，欺骗机载接收器遵循命令。最近以色列也在领土上击落来自伊朗的无人机，并宣称伊朗透过逆向工程、复制美国的无人机。

迄今，美国仍在开发新技术，像是使用带有模式识别软体的摄影机辅助GPS导航，以确保无人机的控制。若想远程操纵，需要先进的通信系统、指挥和控制基础设施以及技术人员。以伊拉克为例，它向中国购买了不须卫星导航、价格便宜许多的无人机CH-4，只须相对短程的无线电波引导，制约了打击范围。

绝大多数的国家也不会禁止无人机，因为其商用价值无可限量，且阻挠人类开发技术的障碍太低，真正有意义的作法是采取管理约束行为。图为2017年中国国际航空航太博览会上，展示其自产的「彩虹」、「翼龙」、「云影」等无人机。 图／新华社

尽管如此，支持LAWS者也承认，无人机被滥用的威胁性越来越大。在叶门内战就发现，伊朗向叛乱份子提供无人机等武器支援。这些无人机目前多用于对付地对空导弹系统和雷达阵列，以数百美元的无人机换数百万美元的防御导弹再划算不过，但未来则有可能会用在摧毁车辆、船只或是军队人员。

若发生此类情形，较为经济可行的方案，是以无人机对抗无人机，这也是支持者大力疾呼的主因之一。支持者LAWS相信，即使缔结国际法禁止自主武器，对手未必会遵守规则，特别是无人机已确定是未来数十年的武器主轴，此时如果不抢占技术领导地位，必将受制于人。

值得注意的是，军用无人机有逐渐扩散的趋势。过去欧巴马政府时代，一些中东国家，如沙乌地阿拉伯、约旦等，向美国购买军用无人机遭拒，因而转向中国。这不仅助长了中国的武器出口，更可能因为数据的导入，有利于中国LAWS技术的进步。

美国则由于飞弹科技管制建制（MTCR）限制，仅被批准出售给英国、法国等盟国，明显落后。今年川普政府则推出新政策，以便出口更多无人机与中国竞争，不难想见，未来军用无人机市场将出现美中两方激烈竞争，全球离有效管制LAWS恐怕也将越来越远。

一些中东国家因向美国购买军用无人机遭拒，而转向中国。这不仅助长了中国的武器出口，更可能因为数据的导入，有利于中国LAWS技术的进步。图为中国第十七届中国西部国际博览会上，展示的翼龙系列无人机模型。 图／中新社