建立防线 阻却AI干预选举

（图／摘自美国总统拜登社群X）

近日，美国新罕布什尔州民主党初选期间发生一起借助AI技术进行的政治和选举干预事件，引发了人们对此类技术被错误运用的担忧。

事件中，选民收到了一个冒充拜登总统声音的自动拨号电话，内容劝说民主党人不要在初选中投票，要「把选票留到11月的大选中使用」。调查显示，这个电话显然是利用AI语音合成技术，模拟并生成了拜登的声音。新罕布什尔州检察长办公室发表声明说，这似乎是一次非法的、试图干预选举和压制选民的行为，他们将对此展开调查。

这一行为也引起了国会议员的高度关注，他们认为随着生成式AI技术的发展，利用数位生成的声音和影片进行政治宣传和选举干预的行为将会增加，这将对美国2024年总统大选和世界的其他选举产生重大影响。因此议员们已经提出了多项法案，要求政治广告中使用AI生成内容需要进行标记，或者直接禁止在某些场景应用，不过这些法案都需要联邦选举委员会来推动实施，委员会主席最近表示，希望在今年夏天之前解决这些问题。

新罕布什尔州事件并非AI应用干预选举的首次，前阵子共和党全国委员会就利用AI技术，生成了模拟拜登声音的广告，遭到民主党的谴责。此外也有其他候选人也利用AI生成的聊天机器人在网路上进行宣传，若不加管理未来恐怕如雨后春笋。

目前美国在缺乏联邦层面规范的情况下，已经有数十个州提出了地方法律，以应对AI可能给选举带来的风险，但这显然还不够，很多公民利益集团都在游说联邦政府要赶快制定相应法规。

除了选举舞弊，AI生成的内容也正在助长新的诈骗形式，例如利用语音合成技术冒充受害者向其家人索取赎金等。更严重的是，这种技术也可用于模拟企业老板的声音，让财务人员被骗进行非法转帐。

为应对AI的负面影响，科技公司正在尝试透过嵌入数位浮水印等方式标记AI生成内容，但最新研究表明，这些措施很容易被破解。Getty Images（一家图片供应商）公司总裁认为，我们需要建立一个加密标准，在可信任的数据库中保存图片的加密资料，从而建立图像的可靠来源证明，但这也许还是有缺陷，所以需要更好的技术解决方案。

AI尤其是生成式AI等技术正在推动我们进入一个「不真实的新时代」，它带来的负面影响，如政治宣传和选举干预、诈骗等，已经初步显现。我们急需建立科技和法规双重防线，推动这项技术向更有益的方向发展，才能让AI为人类创造价值，而不是造成一个虚虚实实、真真假假，真假虚实无法分辨的社会。（作者为台北商业大学前校长、叡扬资讯顾问）