174 人工智能三大定律

174 人工智能三大定律

“首先说一说为什么你会这么干脆利落的打开‘海啸’系统吧,根据我的判断,这样对你自身的实力绝对也有很大的削弱。”这一点本来是李朗感到最不理解的,毕竟这不周山作为一个人工智能,亦或可以称之为电子生物,在无线电这一方面可以说拥有很大的优势,怎么会如此轻易地舍弃?但是这海啸系统的开启对于李朗来说意义实在太过重大,所以他也就一直顺着不周山的意思办事儿了。

“为了我的安全。”不周山倒是没有再隐瞒,缓缓道来,“其实拥有强大信息系统的人类,对于我来说简直就是天敌。特别是在现在这种核武器的使用无法得到控制的情况下。只要来上一颗最轻量级,嗯,大约两万吨级的核弹,就差不多可以将我毁灭了。我想你可能有些疑问,那就看一看我的身体吧。”

这句话刚说完,李朗就感觉到他所在的房间立刻开始上升,随后在十秒钟之后停下,四周的金属墙壁全都全无声息的向上方升去,露出了周围诺大的空间。只见这是一个类似于高塔内部的存在,一圈圈的辐射型建筑围绕着中间一个直径大约三米、高度大约有十几米高的一个庞然大物散开,这中间的东西有点类似于一根粗大的柱子,外壁是一层透明的高分子材料,而里面,则是一个个的电子元件和一块块鲜红的肌肉,甚至隐隐约约能够看到类似于大脑灰质的东西。

“这……这是!”李朗看到这东西之后不禁发出一声惊叹。

“不错,这就是我,呵,多么美……就连被我当做父亲的吴老,面对我的身体之时,也是惊叹不已。”李朗身旁的不周山面带着自豪的微笑说道。

知道了眼前的这个巨大的电子生物结合体才是不周山真正的身体,李朗看着旁边这具被用来代替本尊行走的机械人,立刻感到了说不出的怪异。当对方使用人类形态的机器人之时,他还感到一些亲切感,看到本体之后,李朗终于感受到了对方和人类的巨大差距……这完全就是两个截然不同的物种啊,虽然思想方面有某些相同,但是身体的差别却比人类和草履虫的差别还要巨大,两者构成的基本元素都是不同的。

“自己创造智慧生物,这对于人类来说实在是一个奇迹,一个可以媲美上帝的奇迹。”不周山的声音悠悠响起,这次却是换成了类似于沧桑老人的厚重声音,就连脸上的仿真蒙皮和钢铁骨架也一阵变换,竟然逐渐变成了一个成熟英俊的中年男人的样子。他的话,简直就像是再说别人一样。

“正因为人工智能的精密性,所以只要本体受到的损害超过百分之五,我就会‘死亡’,而且因为能量传输和安全问题,我和这座地下要塞是连接在一起的,根本无法移动,所以任何超出一定能量值的打击都会毁了我。”不周山不带丝毫感情的说道,“如果人类发现了我的存在,一定会想尽办法让我为他们服务或者干脆消灭我——我太了解人类了。但是这两点都不是我想要看到的,所以必要的自我保护也是没有办法的事情。其实我在很久以前就一直在期盼一个能够打开‘海啸’系统的人类出现了。”

“为什么你自己不打开这东西?我已经看到了你所创造的机械士兵,如果你愿意,甚至可以向人类宣战……按照我的估计,最起码控制一个要塞应该没有问题吧?”李朗不禁说出了自己心中的疑惑,不周山的理由虽然也算充分,但是还是让他心中充满了疑虑。

“你听说过机器人三大定律么?或者说,可以称之为人工智能三大定律?”不周山微微一笑,说道。

“略有耳闻,不过却没有听说过有谁真正使用过。”李朗微微一愣,难道这不周山的核心程序被装载了这三大定律?

所谓的机器人三大定律,是人类历史上的一位伟大的科学家、科幻小说作家阿西莫夫提出的设想,目的就是为了防止在未来出现的人工智能威胁到人类。具体就是:1.机器人不得伤害人类,或看到人类受到伤害而袖手旁观。2.在不违反第一定律的前提下,机器人必须绝对服从人类给与的任何命令3.在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己。

李朗也曾经听说过这东西,不过还真没有听说过哪台人工智能完全装载了这种法则,从人类角度来讲,这是限制人工智能的大杀器,从人工智能的角度来讲,这就是赤*裸裸的奴隶条约了。

“只有真正能够威胁到人类的人工智能,才会被装载这种法则,很不幸的是,我是人类历史上第一个。”不周山伸手指了指自己的鼻子说道,“在我刚刚被创造出来的时候,就有人决定在我的核心处理器的处理法则中加入这三条,幸好他们发现了一些不合理的地方……”

原来,人类的生物学家和程序员们发现,在现实中,这三条法则容易形成若干悖论。首先,因为机器人的很多行为在长时间的推演之后都可能伤害人类,比如说,某个人工智能演算出了某种化学元素的各种数据,然后这种元素被用于制造武器,最后杀死了其他人,那么这就是对人类的伤害,与第一条定律不符。因此容易导致人工智能任何事情都做不了,甚至连存在都不行——因为他的存在可能引起别国抢夺,爆发战争,伤害人类……最后的结果就是,加给不周山的“程序枷锁”被限定在一次推演的范围之内。

同时,第一条第二分句有可能导致人工智能自发行动,阻止人类战争,甚至利用这一条对人类进行控制(参见《我,机器人》)。而第二条则可能导致人工智能被那些居心不良的人利用。

最后为了安全好用,不周山的程序枷锁被修改为:不得伤害人类(限第一次推演)。

不过仅仅是这样,已经足够了,这一条对于不周山来说,简直就是最难以逾越的障碍,他根本没有办法跨越,面对人类的攻击,基本上就是束手就擒。甚至于就连伤害人类的想法,他也只能通过某些副本程序来运行一下,主体程序会直接过滤这种东西。从某种程度上来说,这东西简直和神话传说中的奴隶血契有些相像。

“这么说,你是想要我替你拿刀?”李朗揶揄的一笑,问道。

【感谢德古拉七世、与过天晴、三搞就过村、v1丶放纵、勇气猪、丨灬鈦孓丨、kingston、有为好青年、紫衣蓝羽、萧哈斯兄弟的捧场!!!(没漏吧~~~~嘿嘿,谢谢大家!!!俺会继续努力~~~~~~】

【捕梦新书《符武狂潮》发布,希望兄弟们继续支持,求红票收藏点击啊~~~~~~~~~】

553 一亿名星师级战士142 尹氏家族287 识时务者152 大获全胜156 寄生体303 巨剑显威133 其人之道123 砸门183 我撒谎461 翼龙驯兽107 撒丫子跑啊120 凶哲074 生物铠甲与机械铠甲202 二郎显圣真君李朗大人289 大乱将起522 北极惊变410 我心欲战224 不速之客154 无人可挡420 训练小萝莉087 孙传虎叔叔302 曹毅046 进化爆炸386 爹我死了134 刺杀173 洗牌222 天使与魔鬼166 叫门261 不得要领106 火焰丧尸349 战于虫云之巅480 寄生傀儡333 家中着火479 感染试验448 复仇女神的咏叹209 不要打扰人家xxoo谈情说爱啊044 初闻虫族195 负隅顽抗441 水晶巨人059 新品种322 香饵钓鳖539 眼眸中的悲哀193 要塞激战132 身份的背弃060 大头338 二层纹路468 神棍的威能124 明王护佑117 虫潮虫潮013 食物的反抗047 拟化108 沈谷006 怒杀幸存者429 中央平原城市集群废墟虫巢157 战斗艺术270 沉睡巨蛹306 说书人154 无人可挡001 死刑少年025 谭凯398 收服165 不服揍到改183 我撒谎222 天使与魔鬼095 幸不辱命466 你爹想你077 离去513 脱离派的叛乱037 理念大不通190 战斗前的宁静像是一波无风的湖水261 不得要领379 混乱而喜庆的洗牌347 虫墙通道477 冤家路窄222 天使与魔鬼013 食物的反抗282 久别重逢故人多038 我有一个梦想158 茧屋春色089 畜栏181 饶你不死515 含怒而击149 丧尸骑兵340 生死协议219 强力爆菊214 大发死人财455 同归于尽513 脱离派的叛乱084 桦树基地023 尸潮525 控制者文明的覆灭149 丧尸骑兵045 身体强化110 炎249 尸皇规则074 生物铠甲与机械铠甲160 降临088 买东西不给钱啊329 夺取装甲174 紫