紐時:中國社媒歪風 深偽篡改美女影片操弄民族主義

纽约时报报导,中国社媒出现一股歪风:运用以假乱真俄罗斯年轻女性为主角的人工智慧篡改影片,借以推促中俄关系、激发爱国热情或赚钱,目标受众则是怀抱民族主义的中国男性。

「纽约时报」(The New York Times)报导,一个女人用略带口音的普通话宣称,中国男人应该娶「我们俄罗斯女人」。在中国短影音平台抖音上的其他影片中,这名女子描述自己有多喜欢中国食物,并兜售来自俄罗斯的盐和肥皂。她承诺:「俄罗斯人不骗中国人。」

这些影片最近被上传到名为「拉迪娜」(Ladina)的帐号中,但她嘴唇的动作与影片中的音频不太一致。

影片中人其实是澳洲职业策略师扎赫拉伊(ShadeZahrai),她在抖音拥有170多万粉丝。「拉迪娜」帐号中的影片将扎赫拉伊的影片用人工智慧(AI)进行修改,有人给影片剪辑配上普通话,让人觉得是扎赫拉伊在兜售俄罗斯货。

这股歪风在中国社群媒体上正夯。目前尚不清楚这些影片幕后推手是谁,但大多数影片最终都会将观众导向一个产品连结,这表明它们的主要目的是商业性的。而主要目标受众似乎是民族主义的中国男性。

这些影片通常有「俄罗斯妻子」和「俄罗斯美女」等标签。她们描述中国男性多么有成就,或吁求受众把自己从贫困或不那么美好的国家中拯救出来。

在另一组影片中,一名金发女子描述她对来到中国的感激之情。

她在有「中国版Instagram」之称的「小红书」上发布影片说:「真是羡慕中国朋友,一出生你们就拥有全球最珍稀的身分和最深邃迷人的语言。」

在另一段影片里,这名女子感谢中国人从她那里购买俄罗斯巧克力,帮助俄罗斯度过经济难关。她说:「在过去一年里,全世界都在抵制俄罗斯,对我们采取各种限制和刁难。中国就像救世主一样。」

这些影片看起来更自然,女人的嘴型与流利的普通话同步。但它们也是假的。这些影片是根据大学生洛伊克(Olga Loiek)在YouTube上发布的影片篡改的。真实影片是关于自我提升和她在德国的空档年。

洛伊克不会说中文。她接受采访时说,自己永远不会那样赞扬俄罗斯。她来自乌克兰,她的一些亲戚还在那里。

报导指出,这些影片的制作者正试图利用当前地缘政治、科技和公众情绪所催生的中国市场。

近年来,俄罗斯与中国的关系显著深化,面对西方日益增长的敌意,两国领导人蒲亭(Vladimir Putin)和习近平宣布建立「没有止境」的伙伴关系。蒲亭上周访问北京,获习近平热烈欢迎。

用外国人的面孔来赞美中国也是为了利用中国受众的民族自豪感或民族主义。在审查环境下,越来越多话题成为禁区,民族主义内容已成为中国网路上最可靠的流量驱动力之一。

英国杜伦大学(Durham University)国际关系教授张晨晨说,和世界各地的民族主义一样,这种民族主义往往包含着性别歧视的因素。

张晨晨在电子邮件中写道:「以性物化的方式呈现年轻白人女性是性别民族主义或民族主义性别歧视的典型表现。观众可以在消费这些内容的过程中坚定自己的民族主义和男性自豪感。」

在几段以伪造的扎赫拉伊为主角的影片中,这个伪造人物叫她的观众「大哥」。这个角色还指出,俄罗斯没有在日本或韩国销售这些产品。日、韩与中国关系一直很紧张。

中国政府经常鼓励网上的民族主义,但没有迹象表明它和这些深伪影片有任何关系。在中国的社群媒体上也有一小群真的俄罗斯网红,其中许多是年轻女性。

许多影片制作者可能只是利用中国人喜欢透过直播和短影音购物的特点。随着AI技术变得越来越先进,一些中国公司为节省开支,已经将真人改为虚拟销售人员。

加州圣克拉拉大学(Santa Clara University)研究AI治理的教授陆海兵说,作为销售策略的人工生成影片可能会越来越普遍,因为AI技术发展得非常快,普通大众也更容易获得。

「拉迪娜」帐号中一些影片只有几十次浏览,但其中一个讨论与俄罗斯女性结婚的影片有2.2万次浏览。在该帐号的一个影片中弹出的自动计数器显示,该品牌的盐在抖音平台上已经被购买36万次。

当纽时联系拥有经过篡改的扎赫拉伊影片的抖音帐号时,帐号持有者在一段音频讯息中证实,这些影片是他制作的。他说:「建构3件事:音频、影片和嘴,任何你想要的影片都可以生成。」然后他将记者解除朋友关系。

这些影片的复杂程度各不相同。一些「假女人」看起来完全是电脑生成的,动作僵硬。有些则非常出色,比如以洛伊克为原型篡改的影片。

洛伊克最近发现,中国有30多个社群媒体帐号盗用她的形象。她在小红书上举报这些帐户,并将她的经历制作成一段YouTube影片。最终,大多数使用她肖像的帐号都被关闭。

中国是第一个针对生成式AI制定法规的国家,从理论上讲,中国的一些政策比西方更严格。当世界各国都在艰难执行自己的规定,在中国,发现不法行为却可能尤其困难,因为中国的网路环境是封闭的,许多外国社群媒体都被禁止。

外国网红不太可能知道他们的照片在中国社群媒体上被使用,并提起侵权诉讼。一名35岁、只透露自己姓陈的男子经营两个AI生成的俄罗斯女性帐号,他说自己每个月从这些帐号中赚取大约7000人民币,但因担心监管加强,他于今年3月关闭这些帐户。

但更多影片仍在涌现。圣克拉拉大学的陆海兵说,俄罗斯现在可能是热门话题,但这种做法可能很快就会蔓延到下一个趋势。

他说:「幕后的人会操纵任何可能的话题来吸引人们的注意力,向家长展示『如何上名校』、向年轻女性展示『如何变美』。我相信在未来,每个人都会使用AI技术来客制化自己要的主题,制作影片来吸引特定受众。」