不过在他设想的文明之未来图景中,类似“复仇女神”这样的高度发达AI,早晚会出现,也将是永生追寻者、乃至麻瓜争夺世界控制权的焦点。
尽管如此,肯*汤普森的笑谈,也是千真万确。
Nemesis也好,列强们也在研究的其他战争决策AI也罢,规模和复杂度是前所未有,但要说有没有一个会像《终结者》里的天网那样,拥有自我意识、继而清楚人类,人工智能的研发者们都会笑着摇摇头。
要是AI的自我意识,真能这样一下子凭空出现,那倒好了。
人类的自我意识,本质上,究竟如何描摹,迄今为止的科学研究成果还有限,对人类大脑的认知、思维与决策,尚未抵达本质,更不用说一堆晶体管和电路堆积起来的计算机,别说凭空产生自我意识,哪怕工程师们竭尽全力都未曾找到切实可行的实现思路,有意要创造都造不出来。
这种情况下,指望某AI滋生自我意识,还不如指望一堆零件自动组装成波音747。
撇开自我意识不谈,Nemesis,方然倒确信这计划真实存在。
暴力体系,底层的机器人士兵已经出现,顶层的人工智能决策系统,显然也已经提上了联邦军方的研发和装备日程。
假以时日,这样的系统研发出来,谁掌控管理权,就能掌控绝对的暴力。
那么要加入肯*汤普森的核心研发团队吗;
шшш▪ ttκǎ n▪ ¢ 〇
他可没有这打算。
不远的将来,新一场盖亚大战爆发时,掌控Nemesis这类系统的人,就是暴力的主人,这一点谁都能看得到,想得到,因此也就太过显眼,会持续暴露在从监管体系到竞争者的目光集火之下,如同火中取栗。
道理,如此简单,方然并不认为肯*汤普森会想不到,但他并不能明讲。
“我认为这一计划的前景……尚不明朗。
用计算机代替人进行一些重复性的、有危险的工作,是一回事,但是代替人的思考、决策,则是另一回事,我仍然认为,计算机的能力并不足以完全取代人的思维,也担心联邦军方、乃至当局,会出于对AI的怀疑而拒绝采购类似系统。”
“你的后一个担心纯属多余,作为用户,当变革的大潮兴起时,根本就没得选。”
避重就轻,在联邦军方是否接受Nemesis这类系统上做文章,看起来,肯*汤普森很想说服眼前的年轻人:
“AI决策系统,是大趋势,即使联邦政府和军方有顾虑,如果不紧跟潮流,一旦其他列强率先采用AI,就会获得巨大的不对称优势,这一点,即使政客和将军们们暂时想不到,我司也会提醒他们。”
“但我还是认为,至少在未来几十年内,人工智能还无法在这一领域超越人类。”
“为什么,就凭几篇干巴巴的论文?
学术界怎么看待这一问题,毕竟都是理论,我只习惯于用事实说话,这方面的资料……恩,暂时保密,但总而言之,情况可没有你想象的那样悲观。”
汤普森话中所指,方然听得明白,他知道,“国际商用机器”公司的内网监控程序,肯定向公司提交过自己的网络查询浏览记录,其中就包括人工智能、深度学习等领域的若干篇论文,以及,生命科学领域的学术报告。
工作之余查阅这些,如果对负责人说“自己对AI毫无兴趣”,就是拙劣的谎话。
相反,面对动机不明的肯*汤普森,方然索性反客为主,他援引计算机、人工智能领域的若干篇论文和报告,反问了一个暗含潜台词的问题:
“……
既然业界是这样认为,那么,汤普森先生,你觉得在未来五年、至多十年时间里,类似于Nemesis计划书中描述的那种AI,出现的概率有多大。”
“五年也许太短,但十年的话……哦。”
不明白方然为什么谈到了时间,汤普森皱了皱眉头,让他说下去。
“当前的世界局势,先生,您肯定有一些深刻的洞察,那我也不妨直说,既然下一场世界大战就快要爆发,时间,很可能就在十年、甚至五年之内,那么不管Nemesis还是其他的人工智能决策系统,都赶不上在这一场战争中应用。”
言下之意,不管你、和你的团队打算利用Nemesis做什么,时间上恐怕都来不及。
方然的话里有话,肯*汤普森理解到了几分,他的想法显然很不一样:
“这是你的观点,方,而未必是现实。
哦,说到这儿,我猜测你可能是根据新闻、消息来推断,不久之前,联邦的确开始在北大陆测试陆基激光拦截器,也继续向太空中部署拦截卫星,但要消解核武器的威胁,这一切就真的足够了吗?
你不会真的以为,几年之后,列强之间的核威慑就会失效,继而爆发全面战争吧。”
“正是如此。”
一边慢慢的回应,一边琢磨这些话当不当讲,片刻的思考,让方然做出了判断,他最好拒绝肯*汤普森的邀请。
而项目负责人呢,显然对他的说法不以为然:
“就凭激光拦截器,或者,再加上近地轨道的拦截卫星?
这些系统还在测试,根本没实战过,就连接近实战的大规模拦截实验都还没有完成。
就我所知,激光器、拦截弹,这些系统的成功率也还没到百分之百,甚至连百分之九十都很难达到。
哪怕在几年之后,即便这些系统全都部署完毕,面对罗斯、或者其他敌对力量的上千枚远程导弹,几万枚核弹头,你真觉得它们能万无一失,保护联邦的所有重要目标吗。”
“重要目标;恩,是一些什么样的目标呢,汤普森先生。”
“你想不到吗,当然是大城市和——”
“到那时,联邦的大城市,乃至于世界上的所有城市,还有保护的必要么。”
语气平淡,话里带着一丝不易察觉的冷漠,年轻人的话让肯*汤普森一时愣住,办公室里出现了短暂的沉默。