第八四七章 保险

不清楚原理、逻辑,就投入使用,这在以往是不可想象的。

但现在,一切非完全创造性的技术细节,都有强AI代劳,人类才能这样当甩手掌柜。

不论“混沌”中枢,还是“里世界”,人类要彻底研究透彻,都需要很长时间,这也是当下净土民众的钻研方向之一。

活动完回露营地,夜色已深,方然和同伴没打扰睡梦中的女孩们,拖出两条睡袋,铺在柔软干燥的草地上,当然,所谓“干燥”,显然也是虚拟数据的临时调整,甚至不需要当事者下令,就会自动进行。

万籁俱寂,窝在舒适的睡袋里,一睁眼就是深邃的星空,

看上去真的很美。

“里世界”,可想而知,是一处毫无大气污染、光污染也完全受控的所在。

躺在草地上,头一次这样仔细的观看浩瀚星空,方然没心思睡觉,内心揣摩,这会是盖亚上哪一地的夜空景色,还是AI生成的虚幻。

“睡不着,方然?

不会还在回想刚才的一场激战吧,呵呵。”

“那倒没有,不过,这样的活动还挺有趣的,不仅可以体验历史,还可以稍微体会一下,历史事件里那些当事者的心情。”

“是啊,反正我的感受,战争可真不能当做一场儿戏。”

名叫冯云,来自西大陆的男人,无拘无束的向方然说起过往经历,现实世界里,原本应该是九十岁高龄的老者,几十年前一直在西大陆“捕火”地下城做管理员,一直到后来的“蚩尤”失控为止。

再往后,一系列逃亡经历后,幸运的进入“天梦”地下城,

才躲过一劫,直到成为净土的一员。

多年的人生经历中,并未亲历战争,这对旧时代幸存至今的民众而言,司空见惯,一切只因从第三次盖亚大战起,人类的内战形态,就近乎完全演变为无人化、自动化与智能化的机器厮杀,人类参战者极其罕见。

当然,在滨海边疆大区等地,武装力量中仍然留存有一些人类,

但也毕竟只是个案。

过去经历如此,对冯云、乃至许多人而言,一生都没真正经历过战争,无缘直面那生死一线、命运不由自己的疯狂瞬间。

对战争,这世间最残酷之事的理解,也只能局限于大量文字、图象与视频资料。

人,对同一件事,看法因立场不同而大相径庭,这很常见。

今天的净土民众,如何看待过去,如何看待人类的漫长历史,乃至于对其中的每一个历史瞬间,持什么样的态度,这,取决于民众的世界观,又进一步决定了他们会怎样看待现在,又怎样看待未来。

这仅仅是一个人文学科领域的问题吗,

当然不。

风险,在任何历史时期,始终都存在,即便今天的净土,从“里世界”到“盘古”,也只是一系列社会秩序的维持者,而不是人类世界的上帝。

文明2.0也好,未来世界也罢,一切终究要靠人去设想,建设,

因而无法天然规避任何内部破坏。

即便这种破坏,站在方然、或者普通民众的立场上,并没有任何理由,也没有任何动机,也不能一概掉以轻心,甚至认为根本不可能。

这一点,早在萌生退意、计划在适当时间辞去“管理员”职务,并永久性的将这一职位注销时,方然就想过很多,首先,管理员的职位,是不能留,并非他不相信任何人,而是未来世界并不再需要这样的一人决策之体制。

其次,如何才能确保在自己离任后,人类文明的长治久安。

一个人,生活在文明2.0时代,会有什么理由去破坏现有体制,方然委实想不出来,但,他也没有以己度人、直接摈弃这种可能。

不管出于什么动机,一切妨害、破坏乃至颠覆文明现存秩序的行为,都必须有所防范,为此,在接受“意识迁移”之前,方然对“盘古”下达指令,由这一强人工智能负责净土的总体框架,管理社会的方方面面。

而人类,在这一框架内,拥有近乎完全的自-由,唯有一件事是无法做到的,

那就是修改“盘古”的核心逻辑。

拒绝人为修订,这种措施,是可以一劳永逸的杜绝风险,同时也会断绝强人工智能的改进升级之可能,似乎是很不明智的策略。

不过,方然的本意并不是这样,他没有命令“盘古”拒绝一切外来的改进、重构等指令。

之所以出现这样的情况,原因,一点也不复杂,人类无法跟上强AI的思维,就是其绝对无法改进“盘古”根本障碍。

改进,对一切人造之物,似乎都是很寻常的操作,即便功能已臻完美的机器、系统,总归也可以因人的需求变化,甚至只是主观好恶,而进行一系列的改变。

但是对“盘古”这样的强人工智能,情况就完全不同。

“盘古”,脱胎于原NEP大区的“强人工智能研发项目”,一开始必然是人类设计、建造与运营,并长期听从管理员的号令,从这一角度,可以说,功能强大的“盘古”与寻常人造之物并无区别,

一切都可以由人类决定。

但是,与过去一切人类创造之物不同的,是其具有“某种切实存在的自我思维”。

正是这种思维,赋予了“盘古”与众不同的强AI特质,不仅可以解决一般计算机系统能解决的问题,

还能创造性的探索、研究,解决陌生的新问题。

这种能力,或者说,栖居着这种能力的系统,虽然是人一手打造,在开机、持续运行后,却已经事实上脱离了人类的掌控,岂但无法更改(除非断电),就连稍微解析并理解其内部的运作机理,

都完全是一种痴心妄想。

这方面,早在西历十六世纪初,当时的盖亚净土相关机构就有过报告。

当时的“盘古”系统,不论算力、还是预测的“自我意识”深度,都和今日不在一个量级,即便如此,研究者们仍推算,要想切实理解、掌握其一天的工作量,

哪怕忽略转移、解析过程,单组织人力去理解,都需要至少十万人年之巨。

第三二二章 后手第一九七章 城区第四六六章 环境第四五九章 渐冻第四十七章 集权第五五六章 疲倦第六八七章 理解第三〇三章 眼界第一八七章 退货第七七五章 成长第八六四章 浩渺第七章 生命第六十八章 闲谈第九章 保障第二一六章 手套第四二九章第四八五章 人选第一三〇章 后果第二三六章 储备第四一〇章 机器第三八三章 内斗第五八九章 会面第七九八章 火种第七二六章 变迁第四七七章 苦难第三七四章 双赢第五七三章 伊甸第三六二章 检查第一五八章 身份第七二七章 学习第十六章 概率第二十七章 端粒第七四七章 记忆第一一六章 迭代第一六三章 替换第二五三章 处境第七五四章 预计第五二一章 审讯第九五九章 传送第八三六章 需要第八八七章 地壳第三四一章 三元第八七六章 潮汐第九十九章 先后第六三二章 环带第二三四章 无用第一八五章 利益第二七四章 领域第六五三章 办法第八七七章 木星第五八九章 会面第七一六章 辩论第三四一章 三元第七一四章 工程第五一二章 超越第五五三章 氧分第三六八章 大脑第八七三章 探讨第六〇七章 主义第二九五章第三七五章 国力第八三四章 持续第五六五章 扩散第七十三章 理想第七八四章 月面第二一六章 手套第一七三章 整体第八六一章 支持第二三三章 养老第二六九章 业务第七五九章 能源第七十三章 理想第三五二章 战火第三〇六章 对策第八四九章 选择第一五八章 身份第三八八章 东西第九五三章 印痕第五六一章 分布第四〇九章 纪年第九五二章 从前第九十七章 循环第三十二章 记忆第五五〇章 窥见第六八二章 东南第七九八章 火种第五五四章 燃烧第六〇二章 机降第六四八章 回音第八九八章 蹊径第六四七章 高下第三六一章 区别第五〇一章 凋亡第一二〇章 分析第六五二章 使命第四八四章 朵拉第八七五章 加速第五二九章 施救