人类对机器人说谎，究竟引发何种反应？

通常来说，诚实被视作最佳策略，然而有时讲真话并非总是正确之选。社会规范帮助人类决定何时该说实话，何时要歪曲事实来照顾他人感受或者避免造成伤害。不过，这些规范怎样应用于机器人呢？毕竟机器人正日益融入我们的日常生活？

为了探究人类能否接受机器人说谎这一情况，研究人员邀请了近 500 名参与者对不同类型的机器人欺骗行为进行评估并加以说明。

“我想要探索机器人伦理中一个研究尚不充分的方面，为我们对于新兴技术及其开发者的不信任的理解贡献一份力量，”主要作者、乔治梅森大学的博士候选人安德烈斯·罗塞罗解释道。

“随着生成式人工智能的出现，我认为着手研究拟人化设计和行为设置可能被用于操纵用户的种种可能情形非常重要。”

研究人员选取了三个涉及机器人的常见工作场景，即医疗、清洁和零售，并测试了三种不同类型的欺骗行为。

这些行为被归为外部状态欺骗（对外部世界说谎）、隐藏状态欺骗（隐瞒机器人的能力）以及表面状态欺骗（夸大机器人的能力）。

在外部状态欺骗的场景中，一个充当患有阿尔茨海默病妇女看护人的机器人说谎，告诉她她已故的丈夫很快就会回家。

隐藏状态 欺骗 场景涉及一名妇女参观一所房子，房子里有一个正在打扫的机器人，而这名妇女不知道机器人正在秘密拍摄她。

在表面状态欺骗的场景中，商店里的一个机器人在帮忙搬家具时抱怨感到疼痛，促使一个人让别人接替机器人。

该团队招募了 498 名参与者，要求每人阅读其中一个场景并回答一份问卷。

参与者被问及他们是否认可机器人的行为，他们认为这种行为有多具有欺骗性，这种欺骗是否合理，以及如果有人的话，他们认为谁该为谎言负责。然后，研究人员分析了这些回答，以确定人们如何看待每种类型的欺骗的模式。

在这三种情况中，参与者对涉及房屋清洁机器人秘密拍摄的隐藏状态欺骗最为反对。

他们觉得这种欺骗性最强，并且很大程度上是不合理的。

有趣的是，参与者最支持外部状态的欺骗，即机器人对阿尔茨海默病患者撒谎。很多人觉得这个谎言是合理的，说它能保护患者免受情感上的痛苦，把同情置于真实之上。

虽然参与者能够为这三种欺骗形式都给出理由，比如有些人觉得隐藏状态的欺骗或许是出于安全考量，但大多数人坚决反对机器人在未进行披露的情况下谎报自身能力。

超过一半遭遇表面状态欺骗（即机器人假装疼痛）的参与者也觉得这不可接受。当涉及到这些不可接受的欺骗时，参与者往往将责任归咎于机器人的开发者或所有者，而不是机器人本身。

“我认为我们应该关注任何能够隐瞒其能力真实性质的技术，因为这可能导致用户受到该技术以用户（也许还有开发者）从未预料到的方式操控，”罗塞罗说。

“我们已经看到一些公司以旨在操控用户做出某种行动的方式使用网页设计原则和人工智能聊天机器人的例子。我们需要监管来保护自己免受这些有害的欺骗。”

然而，研究人员承认，这项研究只是理解人类对机器人欺骗反应的第一步。他们指出，未来的实验应该使用现实生活中的场景——比如视频或角色扮演模拟——来更好地衡量人类的反应。

“使用带有小插图的横断面研究的好处是，我们可以以控制成本的方式获得大量参与者的态度和看法，”罗塞罗解释说。

“小插图研究提供了基础性发现，这些发现可以通过进一步的实验得到证实或反驳。通过面对面或模拟的人机交互实验可能会更深入地了解人类实际上如何看待这些机器人欺骗行为。”

这项研究为我们理解在诸如机器人和人工智能等新兴技术方面，如何处理欺骗的伦理问题开启了大门。

随着机器人在护理、服务等行业与人类的互动愈发频繁，探究我们对其行为的接受程度至关重要，尤其是当这些行为涉及欺骗时。

凭借这项研究，研究人员展开了有关机器人欺骗的伦理复杂性的探讨，促使我们不但要思考机器人能够做什么，还要思考它们应当做什么。

该研究发表于《机器人与人工智能前沿》杂志。