人工智慧具备自我意识吗

AI人工智慧最新浪潮—停不下来的列车（博硕出版社）

在过去这几年，无人机的技术已经广泛的应用在各种战争场景中，美国可以利用其「死神无人机」去猎杀伊朗的军事将领；中国也可以利用其「双尾蝎无人机」执行各式各样的任务；而数以万计的自杀式无人机更在俄乌战场上摧毁敌军的坦克和军事设施。除此之外，乌克兰也曾经利用无人船舰攻击俄罗斯的黑海舰队，美国国防部也宣布正准备克服通信问题，积极研发和部署无人潜舰。

另一方面，由于人形机器人的相关技术越来越成熟，在结合多模态大模型之后，很快的将会打造出通用型智能机器人。几年之内，我们就可以看到战斗机器人取代人类在战场上搏杀，而这些战斗机器人恐怕都是由人工智慧系统统一控制。这不正是《魔鬼终结者》电影中的机器人军团吗？

目前，大型的无人机仍然需要由人类操控，但是数量庞大的小型无人机都已经由自动控制系统来执行任务。未来当人工智慧掌握战场调兵遣将的主控权时，各军种的机器军团当然会接受号令、无有不从。届时，这些战争机器所效忠和服从的，究竟是人类还是人工智慧呢？

2023年7月1日凌晨两点，中国人民解放军人工智慧领域的首席专家冯旸赫，因为发生严重车祸而不幸去世。冯旸赫有「天才科学家」的称号，主要研究的内容是强化学习、人工智慧博弈、兵棋推演技术和贝叶斯理论，负责打造兵棋推演场景中辅助决策的「最强大脑」， 称之为「战颅」， 用来强化中国人工智慧指挥控制系统的能力。由于过去以色列曾经在海外暗杀伊朗发展核武的科学家，因此冯旸赫的死亡也被很多中国的网友怀疑内情并不单纯，是否有外国政府介入？

不让中国专美于前，美国也正在积极的将人工智慧投入军工产业。2024年2月28日，彭博社发表了一篇深入报导，题目是《人工智能战已经到来》，详细介绍了美军正在推动的「梅文计划」，这是一款用于战场识别敌我的人工智慧模型。

报导中提到，2020年夏季，在美国陆军南卡罗来纳州自由堡基地，美军正式测试成功战场目标识别的人工智慧系统，系统在确认敌方目标后通知海马斯火箭炮开火，击毁敌方目标。在过去四年里美国军方也没有闲着，他们积极的将人工智能应用在战场的其他领域，并且大幅提升和充实梅文计划的功能。第18空降师使用梅文系统结合了其他的武器系统，可以从战斗机、轰炸机、无人机，甚至潜舰开火，打击目标。

第18空降师的瞄准官提到，在使用梅文系统时，1小时可以识别80个目标；而在没有梅文系统的情况下，过去1小时只能识别30个目标。

2022年2月，俄乌战争开打后，第18空降师直接进驻德国，协助乌克兰精准打击俄罗斯军事设施，将「梅文智能系统」直接应用在俄乌战场。尽管演算法还不够成熟，美国仍然决定扩大「梅文智能系统」的自主性。也就是说，只要有人类的监督就可以，而不需要人类做最后的决策。当人工智慧掌握战争机器，并且可以自行决定是否要展开杀戮的时刻，人类的命运不就变相的交到了人工智慧的手中吗？

不管是「战颅」或是「梅文系统」，其实都是类似电影中「天网」的雏形。持续发展下去，谁都不能保证《魔鬼终结者》电影中的剧情不会真实的发生。特别是当美中争霸进入白热化的阶段，恐怕任何一方都不会放弃将人工智慧应用在军事领域。这与发展核弹不同，因为核弹是死物，人类可以随时决定将其销毁。而聪明过人又具备自我意识的人工智慧一旦掌握了战争机器，那么恐怕就不见得会愿意受人支配、任人摆布。

（三之二；摘自《AI人工智慧最新浪潮》）