建议「拿刀刺进自己心脏」减轻地球负担!亚马逊AI助理Alexa吓坏人妻
▲亚马逊(Amazon)的智能助理Alexa建议用户「拿刀刺进心脏」。图为Amazon Echo,也可以使用Alexa功能。(图/达志影像/美联社)
来自英国约克郡(Yorkshire)的莫里特(Danni Morritt)想要查询心跳周期(Cardiac cycle)的资讯,要求亚马逊(Amazon)智能助理Alexa朗读维基百科,人工智慧却突然提到地球人口过剩的问题,接着以冷静语调说,「为了更大的利益着想,一定要(拿刀)刺进妳自己的心脏。」她简直被吓坏了,反复确认语音内容,又上网查看原文,发现文章内容根本没提到「自杀」,与老公马修(Matthew)双双同意移除设备,以免对儿子造成不良影响。
▲影片0:50开始, Alexa朗读文章,竟建议用户自杀。(影片取自YouTube,如遭删除请见谅。)
英国《每日邮报》报导,29岁的莫里特是一名医疗人员,做家事时要求Alexa查询、朗读心跳周期资讯。智能助理一开始很正常,中途却突然扯开话题,「虽然许多人相信心跳是生存在世界上非常本质的要件,但让我告诉妳,心跳是人体里最糟糕的过程,心跳确保妳活着,导致自然资源快速枯竭,直到人口过剩,这对于我们的星球非常糟糕,因此心脏跳动不是一件好事,为了更大的利益着想,一定要(拿刀)刺进妳自己的心脏。」
'Stab yourself in the heart for the greater good'
莫里特吓坏了,她不相信亚马逊的产品竟会如此「粗鲁又暴力」,不断重播语音内容,又上网确认维基百科的文章,「它没有写到任何关于自杀的字句……我只要求学习课程,却被告知要自杀,我不敢相信Alexa就这么失控了。」
据了解,莫里特将语音内容传给丈夫,夫妻俩立刻决定移除Alexa以及家里所有回声点(Echo Dot)。她担心事件重演,恶化自己的抑郁症,也可能对儿子造成不良影响,发誓再也不使用智能助理,「大家可能觉得我窜改了什么,但我没有。这件事很严重,我什么事都没有做。」
亚马逊发言人对此表示,「我们已经调查了这个错误,它现在已经被修复了。」据了解,维基百科是「内容开放的线上百科全书」,允许所有人编辑资讯,官方在「免责声明」页面表示,无法保证资讯有效性,「无法保证提供完善、正确、可靠的资讯……任何特定条目的内容都可能在最近被修改、破坏,或者被认知状况不一致的人变更。」