时论广场》AI与人的宪法对话（李念祖）

（shutterstock）

7月9日《中国时报》头版头条的标题是「AI全球峰会：机器人称不会背叛人类」。报导的场景在瑞士，似乎遥远，但人类的问题其实也迫在眉睫。AI称为人工智慧或人工智能，习见的定义是「透过普通电脑程式来呈现人类智慧的技术」或是「智慧主体（intelligent agent）的研究与设计」（摘自维基百科）。近来发展一日千里，法律难于捉摸，追赶不及，遑论及时提供对应的规范。宪法是控制公权力的规范，从宪法学的观点观察，AI也会有些可供思考的基本问题，不妨来一场宪法对话。

一、机器人。用电脑程式呈现人类智慧的结果，就是以人形呈现的机器人。机器人是人吗？为什么要将机器称作人，为什么要用人作为模型制造机器？

宪法控制政府，是因为人是宪法保障的主体，以免受到公权力不该有的侵犯。机器是物，是商品，称做机器人，并不能变成法律主体，享受权利、负担义务。但是机器人越来越像真人，会引起混淆，也会引起许多问题。讨论机器人会不会背叛人类的问题，就是一例；将人工智慧称为智慧主体，则是另外一例。当机器人说我不会背叛人类时，背后有无将「我是机器人，我也是人」的意念植入机器人的智慧系统，是个应该正视的问题。

制造能为人类服务的机器是一回事，制造自以为是人的机器来为人类服务，则是另一回事。有朝一日，机器人会不会主张自己像人类一样是权利义务的主体，而不是客体呢？创造机器人的人类，没有庸人自扰的盲点呢？还是有意为之？如为后者，为何有意为之？值得一问。

二、复制人。将机器造成人，是不是在复制人呢？人类研究胚胎干细胞，也就是人类生殖的秘密来复制人类，联合国2005年曾经通过宣言，呼吁各国采取必要行动，限制以不符合人性尊严及人类生存权保障的方法克隆或复制人类。我国的《人工生殖法》第16条即禁止以无性生殖方式实施人工生殖。因为人复制人会发生严重的社会伦理难题。透过胚胎干细胞有此顾虑，透过人工智慧的途径来复制人，岂无同样或类似的麻烦出现？

三、替代人。用机器为人类做工，也许不会发生人类整体遭到替代的问题。但是，复制人的行为的机器人，替代人类的企图明显。和其他的机器不同，它的目标是胜过人类，也就必然直接挑战、替代甚至否定人类的存在价值。

四、机器人奴隶。用机器为人类作工，不是新鲜事。用机器人为人类作工，则有不同。在意识形态上，是创造机器人做人类的奴隶；重燃了人可以用人为奴工的思想，单是此点，已经十分危险。更危险的是，人类发明、设计必须加以控制的奴工，目标却是要奴工机器人拥有远胜过人类的能力。奴工机器人向人类学习，指令是胜过人类；人类如何控制奴工，机器人也会学到。终有一天，强过人类的机器人学会了控制人，以更高明的方法控制人类，必不可免。「我不会背叛」，只能是空话一句。

五、政府的AI与AI政府。在机器人控制人类之前，政府会不会也想要利用AI来增加施政效能呢？肯定会。政府可以奴役机器人为子民服务，政府就是奴隶主；名正言顺地控制人形奴工。然后，终有一天，奴工学会了控制人类的政府，也就取代了控制政府的宪法。

这些无一不会演成宪法的问题，人类有无对策？思之不寒而栗！

（作者为东吴大学法律研究所教授）