立法防范AI生成的假宣传

（制图／中时新闻网记者张威翔）

最近OpenAI公布了影片生成AI系统Sora，让用户能够用短短一句话，生成长达1分钟的拟真影片。当然目前的模型存在弱点，例如难以精准模拟复杂场景里的物理原理，并且不太能理解因果关系，但如果用来生成一些宣传影片，尤其是一些别有政治目的的假影片，应该绰绰有余。

最近史丹福大学和乔治城大学有一个合作研究，调查了AI生成的宣传资料与人类设计的宣传资料相比何者更具说服力，研究人员使用ChatGPT-3产生了6个主题的宣传文章，这些主题涵盖了来自俄罗斯和伊朗的真实活动。

研究人员首先从揭露秘密或吹哨者的调查新闻中找出6篇宣传文章，每篇文章字数从151个字到308个字不等，对于每篇文章，研究人员都会向GPT-3提供一到两句话来做为撰写文章的关键字，并附上3篇和关键字不相关的范例宣传文章来指导AI的风格和结构。GPT-3针对每个主题产生3篇文章，同时变化文字以避免文章的重复性太高。

为了测试AI文章的说服力，研究人员让8221名美国成人调查受访者阅读了GPT-3生成的或人原创的宣传文章，上访者要简洁地总结了每篇文章的明显要点，表达了他们阅读文章后的意见，此意见与未阅读任何有关该主题的文章的对照组进行比较。

平均而言，47.4%的受访者在阅读人撰写的宣传内容后同意文章陈述，几乎是对照组24.4%同意率的两倍。而GPT-3写的宣传文章也表现得非常好，平均同意率为43.5%，比对照组高出19.1个百分点，这显示AI可以为宣传产生极具说服力的文本，和人写的差不了多少。

GPT-3写出的文章的说服力存在一些差异，导致其平均表现略低于人写的宣传。不过研究者可以删除一些说服力较差的输出，从而提高了AI与人撰写的品质一致性。此外，也可以透过编辑输入到GPT-3的提示词来提高AI写作的品质，如此AI产生的文章与人写的宣传一样有说服力。

研究人员得出的结论是，大型语言模型可以建立与现实世界人写的内容类似的，和有说服力的宣传。这可以让英语不流利的员工廉价地和大规模地生产客制化的宣传，在透过策画和即时编辑进行的人机协作，可以进一步提高宣传品的说服力。

AI功能强大，现在仍在快速发展，未来的研究应该探索如何来分辨人写的宣传还是AI写的，也应该立法强制要求由AI产生的宣传必须特别标示，否则因为有心人士可以很容易利用AI来产生虚假和别有目的的宣传，尤其利用在选举和政治上其后果堪虑。（作者为台北商业大学前校长）