AI批量造谣来势汹汹斩断利益链条刻不容缓

胡欣红

近期，多地公安机关发布了多起利用AI工具实施造谣的相关案件。上海市公安局城市轨道和公交总队发布警情通报：两名营销人员为博取关注造谣地铁站发生持刀伤人的情况，被上海警方依法处以行政拘留。其中一人使用AI软件生成视频技术，编造了地铁行凶的虚假视频等不实信息发布到网上，造成恶劣社会影响。

信息时代，各种资讯满天飞，有些事情本身就真假难辨，容易混淆视听。谣言往往具有传播速度快、影响范围广的特点，一旦形成规模，就会对社会秩序和社会稳定造成威胁。使用AI技术让造谣更加便捷和高效，并提升了谣言的数量级和传播力，进一步加剧了谣言的危害性。去年，上海发生一起女童走失事件，一个造谣团伙以“标题党”“震惊体”方式，恶意编造炒作“女孩父亲系继父”“女孩被带往温州”等系列谣言。该团伙利用AI工具等生成谣言内容，通过114个账号矩阵，在6天内发布268篇文章，多篇文章点击量超过100万次。

鉴于自媒体造谣严重伤害了网络生态，监管部门依法加大了对网络谣言的打击力度。今年4月，中央网信办部署在全国范围内开展为期两个月的“清朗·整治‘自媒体’无底线博流量”专项行动，整治的重点之一是“摆拍发布涉及国内外时事、社会民生等领域虚假事件信息。拼凑剪接网络视频图片，篡改事件发生的时间、地点、人物等要素，以假乱真欺骗公众”。

不得不说，目前网络造谣的成本还是太低了。据央视报道，江西南昌一家MCN机构使用AI技术，最高峰一天生成4000至7000篇谣言，最高的一条收入700元，初步估算每天收入1万元以上，但相关责任人仅仅被处以行政拘留5日。

《刑法》第291条规定：“编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。”据此，对网络造谣（及故意或恶意传谣）行为，除治安处罚外，情节严重的应追究刑事责任，切实提高其造谣成本，方能以儆效尤。

AI造谣呈现出门槛低、批量化、识别难等特点，亟待加强监管，斩断背后利益链条。线下的惩处力度固然要加强，线上的技术监管和追踪也要更新迭代。利用AI技术批量造谣往往涉及大量的网络活动和数据传输，相关部门应加强对网络空间的监管和追踪，及时发现和处置谣言信息。

对于涉及的网络平台，也应追究其监管责任。用技术解决技术，用魔法打败魔法，在大数据和新技术面前，识别利用AI炮制的垃圾信息，并没有那么困难。如果平台未能有效监管和清理谣言信息，应依法对其进行处罚，并责令其加强内容审核和管理。此外，网络平台、媒体机构等应加强自律，遵守法律法规，不传播未经证实的信息。各行业之间也应加强合作，共同打击利用AI批量造谣的行为。

“造谣一张嘴，辟谣跑断腿。”当前也亟须通过教育和宣传，帮助公众提高对谣言的识别能力，做到理性看待网络信息，避免被谣言误导。尤其是看到耸人听闻的信息时，不妨多留个心眼，让子弹再飞一会儿，切莫落入信息陷阱之中，甚至盲目跟风转发评论，有意无意助纣为虐。