半岛时评丨雷军被恶搞背后,警惕AI合成技术滥用

半岛全媒体记者 李雪梅

AI的发展,开启了深度伪造与低价量产的2.0时代。

国庆假期期间,短视频平台上出现了大量“雷军AI配音”的恶搞视频。

在视频中,“雷军”锐评了堵车、假期等热门话题,甚至还有不雅谩骂。有网友调侃称:“国庆上网被雷军骂了整整7天。”目前,相关短视频平台已逐步下架这些内容。

除了吐槽外,视频里的“雷军”还称要投资某某大学。截至目前,平台上相关话题浏览量过亿。

AI技术正在快速发展,渐渐渗透到生活中的每一个角落。然而,AI技术虽然强大,但也有可能被滥用。

正如“雷军AI配音”恶搞视频,视频的制作者也许没有太大的恶意,只是在“玩梗”。但凡事得有度,有些视频中出现的不雅谩骂、造谣等内容,就越过了开玩笑、玩梗的界限。

更有甚者,有人利用AI技术造谣、诈骗。今年6月,厦门警方就曾破获了一起利用AI技术制造谣言的案件。

该案件中,任某为博流量,利用AI合成了一个虚假视频,在社交平台发布,并配文称,“广东省五华县华阳镇一 70 多岁老人被殴打致昏迷,其孙子为此跳河自杀,打人者一审被判九年十个月。”迅速吸引了广泛的关注,任某终于被警方抓获。

无独有偶,9月20日合肥警方的一则通报显示,此前网上疯传的三只羊公司董事长卢某某的“酒后录音”是伪造的,是由一名25岁的男子王某某利用AI技术合成的。王某某被警方依法采取强制措施。

2023年4月20日发生在内蒙古包头市的一起金额高达430万元的诈骗案件,是利用AI换脸技术得手的。

2024年6月18日,北京警方侦破了一起伪造裸照的案件,白某某利用AI“一键去衣”技术伪造了近7000张淫秽图片,AI技术低价量产为犯罪份子提供了可利用的空间。

据《2024人工智能安全报告》显示,基于AI的深度伪造欺诈案件在2023年增长了3000%,仅2024年上半年,AI诈骗案案值已超过1.85亿元。

AI技术的发展不可逆转,应用只会越来越广泛。它可以轻易地换脸、换声、生文、生图、生视频、无中生有。

在此情况下,每个人都可能成为AI制造的“虚假信息”的受害者,其所带来的社会影响必须引起足够重视。

目前,我国已经出台了《互联网信息服务深度合成管理规定》等法律法规,以规范AI技术的合理使用,并保护公民的合法权益。平台方也需加强技术升级,提高对虚假信息的识别能力。

以“善治”促“善智”。只有在技术监管、社会伦理和法律法规同步完善的基础上,AI技术才能真正造福于民,而不至于成为社会的隐患。