万无一失的「人工智慧隔离箱」
万无一失的「人工智慧隔离箱」
人工智慧一词在一九五五年被创造出来时，人类持续寻求增强大脑的方法已有数千年了。从中世纪机器人到人造神经网路，本书重点介绍了从西元前一千三百年到二○一八年间，人工智慧发展史上新奇和重要的实际观念。不论是早期的自动机械，还是人工智慧程式失控对人类造成的威胁，针对人工智慧这个现今最热门、最引人注目的科学议题，本书不仅讨论科学和技术，也关注道德议题，图文并茂地阐述了我们如何打造这种壮大自己、甚而超越人类的智慧形式。
们在一○九页〈智慧大爆发〉已经提过，有些科学家担忧，一旦人工智慧变得够聪明，这些智慧体可能会不断地自我提升，进而对人类构成威胁。人工智慧成长失控的现象有时被称为科技奇点（technological singularity）。当然，若存在这样的人工智慧对人类来说可能极有价值，但其潜在风险也使研究人员开始思考如何构建人工智慧隔离箱（AI box），可在必要时限制或隔离此类智慧体。例如，此类智慧体会有硬体设备负责执行软体程式，若使这些硬体无法连接到包括网际网路在内的任何通讯管道，也许就可充当虚拟监狱。或是将该软体放在虚拟机器内的另一虚拟机器软体上执行，以增加重重隔离。当然，完全的隔离一点意义也没有，将妨碍我们从超级智能中学习新知，也会妨碍我们的观测。
但是，如果超级人工智慧够先进， 它会不会还是能透过不寻常的方式与外界或与负责守卫的各种人员联系（例如利用处理器冷却风扇的速度变化产生摩斯密码传达讯息，或者使自己身价非凡，以至于可能有人想盗出隔离箱）？ 也许这样的智慧体极擅长动摇人心，懂得贿赂把守人员，诱使他们允许它与其他设备进行更多通讯或回复。「贿赂」今日看来荒谬，但我们难以预料人工智慧将拿出什么好东西，治疗疾病、奇妙的发明、令人着迷的旋律，以及为人带来旖旎浪漫、冒险刺激或温馨幸福的多媒体视觉影像，统统都有可能。
作家弗诺．文奇（Vernor Vinge， 1944-）在一九九三年表示，想对超智能「进行限制，在本质上是不切实际的。针对身体受限的情况：想像自己被锁在家中，只能靠有限的资讯管道接触外界和管控你的主人。如果这些主人的思考速度比您慢一百万倍，那么毫无疑问，在几年内（以你的时间速度为准），你就会想出『有用的点子』，可能刚好就能帮助你逃脱」。
【作者简介】
柯利弗德‧皮寇弗 （Clifford A. Pickover）
他是一位多产作家，累计发行已超过五十本书，著作被翻译成数十种语言，涉猎主题从科学、数学一路涵盖到宗教、艺术及历史。
皮寇弗在耶鲁大学取得博士学位，在美国拥有六百多项专利，他的推特发文有三万八千人订阅追踪。他的专利被许多不同的公司收购，包括IBM、eBay、Google、推特（Twitter）、雅虎（Yahoo!）、PayPal、领英（LinkedIn）等等。个人网站（Pickover.com）的造访人次数以百万计。
《纽约时报》这样描述他的著作、创造力与好奇心：「皮寇弗缜密思维所构成的王国，已超越一般人所认知的现实世界。」《连线》杂志则说：「富勒（Bucky Fuller）曾经是充满想像力的代名词，如今，克拉克（Arthur C. Clarke）已取而代之，不过，皮寇弗的表现则显然更胜前人。」《基督教科学箴言报》（Christian Science Monitor）如此盛赞：「皮寇弗启发新一代的达文西，刺激他们制造出未知的飞行机器，创造出全新的蒙娜丽莎。」
【译者简介】
台湾师范大学英语系、东华大学创作与英语文学研究所毕业。读字译人，嗜写书虫，译有《一颗屁的科学》、《月球之书》。
合作或赐教，请联络[email protected]
《AI之书：图解人工智慧发展史》/时报出版