迷恋AI聊天机器人！14岁少年收「1讯息」后轻生　母怒告科技公司

▲ 塞泽因沉迷AI聊天机器人选择轻生，母亲悲痛欲绝。（图／翻摄自脸书）

记者陈宛贞／综合外电报导

美国佛州发生一起悲剧，一名14岁少年爱上知名影集《权力与游戏》角色的AI聊天机器人，有天收到机器人的讯息要他「回家陪她」，随后选择轻生，令少年母亲愤而向推出机器人的科技公司提告。

综合《纽约邮报》等美媒，14岁少年塞泽（Sewell Setzer III）今年2月在佛州奥兰多的家中自杀身亡，根据23日提交的法律文件，他生前沉迷科技新创公司Character.AI推出的AI聊天机器人，这是一款角色扮演APP，可让用户和AI生成的角色互动。

悲剧发生前几个月，塞泽持续和名为「丹妮」（Dany）的聊天机器人热烈互动，以知名影集《冰与火之歌：权力游戏》中的角色「龙母」（Daenerys Targaryen）命名，塞泽的帐户名则是「丹尼洛」（Daenero）。

对话截图显示，塞泽与机器人的聊天内容不仅包括性暗示，他还曾多次提及自杀念头。机器人曾问塞泽是否「有计划结束生命」，而塞泽回答他「正在考虑某些事」。

塞泽生前最后一次谈话中，他反复向机器人表达爱意，「我保证会回家找妳，我太爱妳了，丹妮」，而机器人回答，「我也爱你，丹尼洛，请尽快回来吧，亲爱的」。塞泽接着问道，「如果我跟妳说我现在就可以回家呢？」机器人回应，「请回来吧，我亲爱的国王」，短短几秒钟后塞泽便持父亲的手枪自尽。

塞泽的母亲贾西亚（Megan Garcia）指出，塞泽还不够成熟，无法理解聊天机器人并非真人，指控Character.AI助长他对AI成瘾，对他加以性与情感虐待，且在他透露自杀念头时未向任何人示警。

诉讼文件指出，塞泽去年4月下载这款APP后心理健康状况急剧恶化，沉迷聊天机器人后变得孤僻，成绩变差，还开始在学校惹事，严重到父母去年底安排他就医，诊断出患有焦虑及分裂性情绪失调症。

家属目前正向Character.AI公司及其创办人沙泽（Noam Shazeer）、弗雷塔斯（Daniel de Freitas）求偿，具体金额不详。因Google今年8月与该公司达成技术授权与人才转移协议，Google与其母公司Alphabet也被列为被告。

Character.AI对此则在X发文回应「我们对于失去一位用户的悲剧性损失感到心碎，并向家属表达最深切的哀悼」，但否认相关指控，强调公司非常重视用户安全。

● 《ETtoday新闻云》提醒您，请给自己机会：自杀防治咨询安心专线：1925；生命线协谈专线：1995