乌克兰女学生遭AI变造为说中文的俄罗斯美女 网上粉丝数十万
在美国读书的乌克兰女学生Olga Loiek的个人社群帐号的影像遭人以AI变造成说中文的俄罗斯美女,骗取中国挺俄民众的支持与同情。(图/Olga Loiek社群帐号)
最近在社群网站上有越来越多俄罗斯美女网红,她们用流利的中文表达对中国的热爱,并称要通过销售来自祖国俄罗斯的小商品来支持战争中的俄罗斯。外媒指出,近期冒出来的这些俄罗斯美女网红能说略带外国口音但还算流利的中文,其中多人甚至有高达数十万粉丝,其实都是人工智慧技术生成的假帐号,利用大陆网民支持俄罗斯的心理来赚钱。
据《德国之声》报导,来自乌克兰、21岁的美国宾州大学学生洛伊克(Olga Loiek)一直在网路上寻找观众——但从来没有想到会以现在这种方式获得关注。去年11月,来自乌克兰的洛伊克在YouTube上开设频道,不久之后,她发现自己的形象被盗用,并由人工智慧技术变成了另外一个人出现在中国的社群网站平台。
报导说,这个跟她身材长相完全一样的人,自称是精通中文的俄罗斯女孩,感谢中国对俄罗斯的支持,并通过出售俄罗斯糖果等产品赚点小钱。更吊诡的是,这些虚假帐号在中国都拥有数十万粉丝,远远超过了洛伊克本人帐号的粉丝人数。
盗用形象以AI生成的俄罗斯美女在大陆短视频上拥有数十万粉丝,该帐号平时会贩卖一些俄罗斯小商品。(图/小红书)
洛伊克对《路透》表示:「这就像是我的脸在说着普通话,背景是克里姆林宫和莫斯科,我在谈论俄罗斯和中国有多么伟大。这真是让人毛骨悚然,因为我这辈子都不会说出这样的话。」
现在中国社群网站上,越来越多貌似俄罗斯女性的形象,用流利的中文表达对中国的热爱,并称要通过销售来自祖国俄罗斯的小商品来支持战争中的俄罗斯。洛伊克的遭遇只是其中一个例子,以她的形象创建的账户拥有数十万粉丝,并销售了数万美元的产品,包括「俄罗斯糖果」。其中一些贴文包含《免责声明》,称其「可能是使用人工智慧创建的」。
大陆近几年很流行以说中文的俄罗斯美女为人物设定的AI网红,多数都是贩卖各种俄罗斯或欧洲小商品。(图/搜狐网)
开发先进人工智慧技术的XMOV 公司CEO吉姆‧蔡(Jim Chai)说,在中国,制作这种图像的技术非常普遍,很多人都在使用。「例如,要制作我自己的二维数字人,我只需要拍摄一段30分钟的影片,然后再重新制作。当然,它看起来非常真实。如果你想改变语言,唯一需要调整的就是对口型。」
近几个月来,由于Chat GPT等生成式人工智慧系统的普遍应用,人们对人工智慧助长错误讯息、假新闻和盗版的担忧也在加剧。今年1月中国发布了人工智慧行业标准化草案,提出到2026年将形成50多项国家和行业标准;欧盟《人工智慧法案》亦将于本月生效,高风险的人工智慧系统设定了严格的标准。
尽管如此,北京大学法学院副教授戴昕表示,监管者正在跌跌撞撞地追赶人工智慧发展的步伐,随着越来越强大的讯息创建工具出现,假讯息的产生和传播基本上时时刻刻都会出现。」「最关键的问题是数量太大了……不仅是在中国,在整个网路上都是如此。」