影》金发正妹小红书上大秀中文 本尊现身揭「毛骨悚然」真相
小红书、哔哩哔哩等中国大陆社群平台上先前出现许多乌克兰女学生奥尔加(Olga Loiek)用中文大赞中俄友谊的影片,全为利用AI工具换脸的结果。(示意图:shutterstock/达志)
小红书、哔哩哔哩等中国大陆社群平台上可能经常看到一名金发正妹大秀中文,赞赏中俄友谊,这名金发美女近期现身说法,原来她是在美国求学的21岁乌克兰女学生奥尔加(Olga Loiek),她强调那些令人「毛骨悚然」的影像不是真的自己,而是遭到有心人士透过AI工具盗用,自己完全不会说中文。
英国广播公司(BBC)报导,奥尔加2023年开通YouTube帐号、不定期更新影片一个月后,她就收到许多人通知,在中国社群平台上看到她说中文的影片。
这些影片遍及小红书、哔哩哔哩,影片中的女生分别叫作索菲雅(Sofia)、娜塔莎(Natasha)、史黛西(Stacy),除了外貌,她们的共通点是用流利中文谈论中国及俄罗斯、宣扬中俄友谊、「我们必须是紧密盟友」,以及推销食物等。
其中一个有30万人追踪的帐号「娜塔莎进口食品」(Natasha imported food),影片中的娜塔莎大赞「俄罗斯是最棒国家」,遗憾其他国家疏远俄罗斯,称俄罗斯女性想去中国,之后就开始推销俄罗斯糖果。
但实际上影片中的女子并不是娜塔莎、索菲雅、史黛西,而是一名在美国宾州大学(University of Pennsylvania)就读的21岁乌克兰女生奥尔加,奥尔加愤怒表示:「我看到我的脸、听到我的声音,但都非常毛骨悚然,因为我看到自己说一些从没说过的话。」
「我不想让别人以为我说过这些可怕的话,利用乌克兰女孩的脸推销俄罗斯,简直是疯了。」奥尔加说她从没学过中文。
奥尔加表示,小红书上的这些影像是透过AI影片生成工具HeyGen制成的,HeyGen公司称系统被骇客入侵,一共查到超过4900支影片盗用奥尔加的脸,如今公司已经禁止奥尔加的脸再被盗用,并且更新安全验证,以防类似事件再度发生。
香港大学法律学院副教授张湖月(Angela Zhang)表示,这种情形在中国大陆「非常常见」,「因为中国大陆是伪造、盗用个资的庞大地下经济体大本营」。
根据中国公安部数据,2023年当局一共逮捕515名进行「AI换脸」的嫌犯。
BBC指出,奥尔加的脸会出现在这么多影片上,其中一个原因可能是为了宣传中俄友谊,尤其近年来北京与莫斯科的关系变得更为紧密。
中国官媒也不断重复俄罗斯的论述,合理化侵略乌克兰的行动,社群平台上有关战争的讨论也遭到审查。
义大利波隆那大学(University of Bologna)法律与科技研究人员海音(Emmie Hine)分析,目前尚不清楚这些帐号是否彼此相关,「但推广与政府宣传一致的讯息一定有利」。