国战会论坛》美中科技战白热化 「生成式AI」战争的人类末日（蔡炫）

「拜习会」难缓解双方之间的科技战持续竞争，去年开始美国对中国实施出口管制，试图全面切断先进晶片的所需资源，从关键零组件到生产设备一律阻绝。（示意图/达志影像/shutterstock）

美国总统拜登与中国国家主席习近平11月在美国旧金山举行「拜习会」试图「稳定」彼此关系，却难缓解双方之间的科技战持续竞争，去年开始美国对中国实施出口管制，试图全面切断先进晶片的所需资源，从关键零组件到生产设备一律阻绝；美国通过520亿美元的晶片与科技法 （Chips and Science Act）目的在于整体提振本土半导体实力，也让人工智慧 （AI）聊天机器人ChatGPT背后依赖的「生成式 AI」，可能成为美中科技战白热化的新战线。

「生成式 AI」成为拜登政府考量可以促进中国军事现代化的「国防科技」，人工智能已被两国视为关键技术，联合国开始发声支持设立国际机构监管人工智慧，如同「禁止核子扩散条约」（NPT）的成员国共同监督模式；我们不禁要问难道AI比核武危险？光以发展纯熟的深伪（Deepfake）技术来看，一旦运用在军事作战，包含现有聊天机器人、语音复制、深伪影像等将对全球构成严重威胁。

聊天机器人到战斗机器人

ChatGPT聊天机器人在武器应用恐将进入战斗机器人，美国率先呼吁国际订定AI军事应用准则，目的在于敦促各国在遵守国际法规前提下推展AI应用，说穿就是确立共同安全机制，确保人类必须掌握「武器主导权」；一旦战斗机器人掌握核武，自行决定军事用途，恐将酿成第三次世界大战。

以俄乌战争而言，这场战役充分展现无人机的攻击优势，假如能在无需人力操控的情况下进行辨识、选择、攻击目标，势必成为下个阶段的军事作战科技模式，相信世界各国未来也将投入人力物力积极研发；当乌克兰已有发展AI技术的「半自主攻击无人机」以及「反无人机武器」，完全自主执行任务的「杀手无人机」（killer drone）势必成为新式战争型态。

语音复制到舆论操控

美国智库「兰德公司」（RAND）报告指出中国研究人员正企图利用「ChatGPT」等生成式人工智慧操纵全球舆论，采取一种混合真实的「合成资讯」诓骗世人，从2005年起开始运用科技操纵特定国家区域的境外舆论，铺天盖地用在国际社群当中，强化语言模型说服力道；除了语音复制欺敌战术，还能透过舆论操控达到军事目的。

以中国严密的资讯审查与管控媒体为例，早将资讯战视为「武器化」的军事应用，尤其AI大型语言模式可嫁接与国际上的文化鸿沟，只要内部拥有足以训练的相关数据，轻易就能针对国际议题形成特定舆论而不被侦测；当中共透过生成式AI工具替人民解放军形塑大量人设以及相同观点进行网路作战，「议题带风向」如同二十世纪六十年代在海峡两岸所出现的「空飘传单」进阶到「网飘传单」。

深伪影像到认知作战

ChatGPT深伪影像升格为军事心战应用并在网路世界遂行认知作战，AI技术在科技战争策略上成为制造冲突利器，例如呈现家属在断垣残壁中搜寻幸存者的影像、大量飞弹炸毁建筑、违反人道攻击医院等，目的在于获得庞大露出点击寻求支持，强化战争国家之间的仇恨情绪；一旦有了这类虚假影音撩拨人性本质的焦虑冲动，平民在浅移默化中都能成为认知作战的传播媒介。

从以哈冲突来看，这类深伪影像已经创造数以百万的浏览量，例如浴血弃婴、街道死尸、虐待平民等，部份是以AI深伪技术合成，根据美联社报导当中有的眼睛闪烁着不自然光芒、手指刻意弯曲以及身形极不自然；目的仅是军方宣传工具，在于吸引「意见领袖」作为传播管道。

AI引领「人类末日」势必始于战争，威胁人类生存的具体灾变源自科技始终来自人性，ChatGPT去年点燃的AI热潮，随即从生活应用迅速进入军事科技领域，稍有不甚恐将引来文明浩劫；尤其「生成式AI」恐将成为美中科技战白热化的新战线，一旦军备竞赛全面引爆也将促成聊天机器人、语音复制、深伪影像等对全球构成严重威胁。

ChatGPT聊天机器人在武器应用恐将进入战斗机器人，走入完全自主执行任务的「杀手无人机」（killer drone）；透过生成式人工智慧操纵全球舆论，进阶到「网飘传单」轻易达到说服；深伪影像升格为军事心战应用并在网路世界遂行认知作战，目的在于吸纳第三方的「意见领袖」强化传播效力，因此必须制定一套公认有效的「监管法案」才能降低AI末日降临机率。

欧洲联盟12月8日已经推出首项人工智慧AI监管法规的协议草案，针对ChatGPT「生成式AI」科技等生物辨识系统等技术应用范围，订立监管罚则与保障措施等治理架构，企图让法规跟上科技以免造成全球危机；欧洲这套监管法规开宗明义制定罚则防止AI侵犯人权，相较美中陆续宣布管理AI技术的行政命令及管理办法，今年相互积极争取AI领域主导权，欧盟不仅需要别于国家竞争，还要跳脱地缘政治的意识形态，落实世界维和层次，才能真正避免「生成式AI」战争的人类末日，迎来科技乌托邦的理想化境界。

（作者为台湾国际战略学会副研究员，国战会专稿，本文授权与洞传媒国战会论坛、中时新闻网言论频道同步刊登）

※以上言论不代表旺中媒体集团立场※