首位机器人公民！沙国颁发证书 AI专家忧：人类还没准备好
沙乌地阿拉伯颁发公民证书给索非亚机器人！在上周这项宣布之前，沙国已承诺将投入5,000亿美金，打造一个由机器人与可再生能源推动的城市。
成为一国公民并享公民权益，是人类最大的荣耀之一。身为一名专研人工智慧与自主系统的大学教授，我的工作是设法让这些系统更值得信赖，而我相信现今的人类社会还没有准备好接纳机器人公民。
给予机器人公民身分，象征着对机器人的信赖，而我认为目前的机器人技术仍不值得信赖。对于机器人所衍生的社会与道德疑虑，人类还没有好因应处理的准备。
索菲亚是何方神圣？
索菲亚是香港的汉森机器人技术公司所开发的产品。她具备一张可以表情达意的女性脸孔，会说英语，会讲笑话，有能力和人进行有意义的对话。
索菲亚的创造者是大卫汉森博士（David Hanson），他在2007年于德州大学取得博士学位。
索菲亚让人联想到「霹雳五号」（Johnny 5），也就是1986年那部电影里第一个拿到美国公民身分的机器人。但霹雳五号只是电影，是科幻喜剧写手威尔森（S.S.Wilson）和布兰特麦达克（Brent Maddock）凭空想像的虚幻情节。
这两位编剧能否想像他们的剧本竟在30年后成真？
公民权的风险
在我看来，公民权是一个国家所能给予其人民最崇高的一种身分权利，但现在这个身分却面临存在危机。
我一向主张科学家打造出来的自主系统，必须能够让人信赖。而我很清楚目前的技术仍未成熟。
在机器人取得人类的信任之前，仍然有许多的挑战须克服。举例来说，目前仍缺乏一个可靠机制可以确保人工智慧系统依循人类的道德规范行事，或是能够保证机器人不做出引发人类浩劫的举动。
我认为现在给予机器人索菲亚公民权是一个轻率的决定，原因有三：
一、个体身分
公民地位的赋予对象，是一个独特的个体。
我们每个人都拥有独特的身分标记，用以区别人我。当我们在机场快速通关时，我们的身分是透过脸部影像、虹膜以及指纹来辨认。我的博士班学生曾经用脑波的波形，来辨识人的身分。
索菲亚的身分从何而来？是她的网路位址吗？还是一个条码？一个特殊皮肤印记？她讲话时的声波记号？还是类似人类脑波的电磁讯号？
我认为，个体身分是一个多面向的概念，是由我们的生物特征、认知意识，以及我们所有的经验、文化与环境背景所共同定义出来的。依此概念，索菲亚的身分定位非常模糊。
二、法律权利
纯粹为了讨论之便，我们假设索菲亚获得了公民的投票权利。在选举那一天，做出投给谁的决定的人，到底是索菲亚？还是打造她的机器人公司？
如果说索菲亚是独立于机器人公司以外的法律个体，那么索菲亚似乎也应该像其他人一样缴交所得税。
索菲亚也应该像其他公民一样，受到法律平等对待的保护。
想像一下这个假设场景：一名警察看到索菲亚和另一名女子，同时受到攻击。警察只有能力保护其中一个人，那么他该去救谁呢？如果警察发现索菲亚是用轮子移动，毫无自卫能力而决定救她而不救另一名女子，这样对吗？
人工智慧产学界目前仍停留在讨论机器人的设计和使用规范的阶段，法律问题根本就还没有机会触及。
最近提出来的一套规范，是列有23条准则的阿希洛马人工智慧原则（Asilomar AI Principle）。准则中包括了「故障透明度」（如果机器人造成损失伤害可以判定原因）、「价值校准」（让机器人的工作目标符合人类价值），以及「递回自我改善」（对拥有自我复制能力的机器人设下严格的安全限制与控管措施）等。
三、社会权利
还有亲密关系与繁殖的问题。
拥有情绪反应的索菲亚机器人做为一个公民，可以被允许「结婚」或「生子」吗？北达科达大学的学生已尝试打造过一个能够用3D印表机进行自我复制的机器人。
如果有越来越多机器人像索菲亚一样成为各国公民，或许他们就会开始要求繁衍的权利，复制出来的机器人也将会是公民。如果没有对机器人的繁衍设下限制，机器人的数量很快就会超越人类的数量。
作为公民，这些机器人可以推动社会的改造，修改法律，再过不久人类就会发现事情的演变，远超乎他们意料之外。
本文已获作者授权。原文〈一位人工智慧教授的解说：授予公民权给机器人索菲亚的三大疑虑〉（An AI professor explains: three concerns about granting citizenship to robot Sophia）刊载于《The Conversation》，作者Hussein Abbass为澳洲国防大学教授。
更多镜周刊报导AI凌驾人脑的时代 MIT提出2017年5大预测别再担心律师费 聊天机器人帮你免费打官司机器人送冰啤酒上门 科幻已然成真