OpenAI报告：AI模型被用于干扰选举 美国大选成“重灾区”

财联社10月10日讯（编辑 刘蕊）随着人工智能技术的持续火热，OpenAI旗下的ChatGPT也被一些不法分子盯上，成为了试图用于影响全球各国选举的重要工具。

OpenAI已破坏20多个欺骗网络

美东时间周三，OpenAI发布了一份长达54页的报告，声称自今年年初以来，OpenAI已经破坏了来自世界各地的20多个试图使用我们模型的不法行动和欺骗性传播。

他们指出，这些危害行为包括利用人工智能技术生成网站文章，以及利用虚假账户在社交媒体上发布虚假信息帖子等等。

OpenAI的这份报告发布之际，距离美国总统大选正好还剩一个月的时间。而除了美国之外，今年对全世界来说都是重要的选举年：今年全球有超过40个国家举行选举，影响人数超过40多亿人。

事实上，选举中利用虚假信息来干扰选举，并不是一个新现象。但根据机器学习公司Clarity的数据，随着人工智能生成内容的兴起，今年网络上与选举相关的错误信息激增，并因此引发了普遍的担忧。

随着ChatGPT的推出，生成式人工智能于2022年底起飞，现在已被各种规模的公司采用。而与此同时，今年网络上深度伪造（DeepFakes）内容的数量已经同比增长900%。

虚假内容影响力暂时有限

OpenAI在报告中写道，与选举相关的人工智能应用“从简单的内容生成请求到复杂、多阶段的分析和回复社交媒体帖子的工作，复杂性各不相同。”

而从社交媒体内容来看，有害的AI内容主要与美国和卢旺达的选举有关，也有部分有害内容与印度和欧盟的选举相关。

今年6月，OpenAI识别并挫败了一项试图影响欧洲选举的秘密行动：有不法分子利用ChatGPT生成帖子，在社交媒体上对欧洲议会选举以及美国、德国、意大利和波兰的政治发表评论。

OpenAI表示，虽然上述这些利用AI生成的社交媒体帖子大部分几乎没有得到点赞或分享，但也有部分帖子的确得到了真人用户的回复。

OpenAI还写道，虽然已经出现了不少与选举相关的虚假内容，但截至目前这些威胁举措的影响力还有限：目前没有一项与选举相关的操作，能够通过使用ChatGPT和OpenAI的其他工具吸引民众的“病毒式参与”或吸引“持续受众”。