美加州中學16學生被AI偽造裸照!5同學涉案 全遭退學
美国加州比佛利山联合学区近日爆出有5名国中生以人工智慧「深度伪造(deepfake)」方式,制造出16名同学裸照,学区6日投票决定将涉案5人全数退学。路透
美国加州比佛利山联合学区近日爆出有5名国中生以人工智慧「深度伪造(deepfake)」方式,制造出16名同学裸照,学区6日投票决定将涉案5人全数退学。
NBC报导,比佛利维斯塔中学(Beverly Vista Middle School)校长布雷吉(Michael Bregy)透过电邮指出,5名加害者和16名受害者都是8年级学生,此事引发有关使用人工智慧的道德层面有关的重要讨论,并了解到小孩虽然仍在学习和成长阶段,但承担责任也非常重要。
学区决议将5名加害学生退学后,涉案学生和家长没有提出异议,其身分也未公开。
在比佛利中学事件发生前一年,全球各地就已经有一系列未成年学生遭「深伪」的假裸照案。随着人工智慧技术的持续发展,相关案件数量呈现爆发式增长,专门设计用来让受害者「脱衣」和「交换」脸孔的色情程式不断出现,制造虚假影像比以往任何时候都更快、更方便,并且很容易在社交媒体上流传。