AI深伪技术乱入美大选　关键时刻恐影响选情

▲ 日前出现一支运用AI深伪操作，模仿贺锦丽的影音档。（图／路透）

● 陈国祥／曾任《中国时报》总编辑、《中时晚报》社长

正在如火如荼进行的美国总统大选，近日出现一个轰动江湖的插曲，令人对选举未来可能出现的不可控欺骗情事深以为忧。

人工智慧（AI）深度伪造技术几可乱真。日前一支运用AI深伪操作，模仿将代表民主党参选总统的贺锦丽影音档出现，再经科技亿万富豪马斯克分享在自家社媒平台X，而且没有标注这支影片的初衷是在讽刺，造成以假乱真的错乱。人们更加担忧AI的力量会在关键时刻影响选情。

影片把贺锦丽没讲过的话塞到贺锦丽模样的人物嘴里，真假难辨，手法虽然算不上创新，但这次选举两方旗鼓相当，一个运用深伪技术的造假可能对一个候选人产生无可弥补的损害。

这支上周「被公布」的「竞选广告」，证明是使用相同的影像配上模仿贺锦丽的声音，将旁白偷天换日。影片中的「贺锦丽」说，「我，贺锦丽，是各位的民主党总统候选人，原因在拜登总统终于在辩论中曝露自己的老迈」。伪造影片中宣称贺锦丽是「多元雇员」，既是女人又是有色人种，而且说她连「治国初步」都不知道。影片保留了「贺锦丽选总统」的字眼，还添加一些贺锦丽过去真讲过的话。

▲ 科技亿万富豪马斯克分享一支模仿贺锦丽的AI深伪影音档在自家社媒平台X，而且没有标注这支影片的初衷是在讽刺，造成以假乱真的错乱。（图／达志影像／美联社）

►►►思想可以无限大－－喜欢这篇文章？　欢迎加入「云论粉丝团」看更多！

她的发言人立即谴责马斯克推波助澜的恶行：相信国人要的是贺锦丽提供的真正的自由、机会及安全，而不是马斯克与川普经伪造、操弄的谎言。

这支影片广获分享，足以证明AI生成的图片、影片或录音档已被使用在操弄、误导选举，由于栩栩如生，真伪难以辨识，所以令人更加担心选举中被恶用。

高品质的AI工具比以往更容易取得，技术不断进化，造成的欺骗与误导效果更难防范与控制。最早贴出这支影片的是自称「雷根先生」（Mr. Reagan）的YouTube内容创作者，他在YouTube及X平台都表示，这支经过改造的影片旨在讽刺。马斯克强烈支持川普，他聪明绝顶，转载这支贴文不太可能是自己先被误导，更大的可能是蓄意误导选民。据X平台表示，浏览量已超过1亿2,300万次，只下标题「这真不可思议」，再配上发笑的表情图，显然没有更正的诚意。人工智慧和深度伪造（deepfake）技术正迅速改变人们接收及处理讯息的方式，别有用心者企图将其应用在影响公众舆论及选举结果，可以对民主制度构成前所未有的威胁与挑战。

▲ 特斯拉创办人马斯克在川普遇袭后，正式表态支持川普。（图／达志影像／美联社）

深伪技术的崛起之所以能对选举产生破坏性影响，主要是因为其可利用机器学习（machine learning）算法，制作逼真的假影片和音频，在社群媒体上高效传播给潜在的受影响者。

由于AI驱动的演算法可制作精巧的影音作品，其内容通常被设计用来引起群众强烈的情绪反应，从而塑造舆论。影片的制作与传播，还可对选民数据深入分析，而能更精准地定位其信息，从而更有效地传播给特定群体的选民，从制作到传送的精准程度令人防不胜防。

由于生成人工智慧的技术日益精进，几乎任何人都可以创建虚假内容，且愈来愈令人信以为真，但实际上是虚假的图像、音讯、视频、虚构的，许多选民对于这种由AI驱动的谎言无从辨识。AI假信息越来越泛滥，社群媒体公司虽然多半想避免卷入政治的棘手内容争议，但查不胜查，禁不胜禁，无法根绝欺骗性内容。

OpenAI声称已禁止使用其工具来做政治竞选；Meta表示今年大选禁止大选前的最后一个星期投放新的政治广告；对于用AI创建出来的图像，Meta会标记说明。然而，实际上执行不易，往往假造的影片走遍全城后才开始在城门围堵。

▲ 现在的深伪技术已进展至人类演员能直接操控萤幕上的机器人，进步到只需单一影像便能产出深伪模型。（示意图／CFP）

深伪技术其实已问世多年，主要手法是将某人的影片移植到影片中，透过人工后制呈现虚拟真人。现在的深伪技术已进展至人类演员能直接操控萤幕上的机器人，进步到只需单一影像便能产出深伪模型。

人工智慧专家解释说，这种即时深伪模型需要一个「操控者」负责演出的部分，当「演员」的样貌叠加在操控者身上时，便能打造出其中一种深伪影片。深伪技术也能用于窜改讯息，或直接让虚拟的真人说出假话，诸如此类的骗局已经层出不穷，竞争激烈的选举焉能逃过这种劫数？

● 本文获授权，转载自「美丽岛电子报」。以上言论不代表本网立场，欢迎投书《云论》让优质好文被更多人看见，请寄editor88@ettoday.net，本网保有文字删修权。