被Ai造假“卖保健品” 张文宏苦不堪言 打击AI造假不能只靠技术 还应完善法律规范 | 有一说一

▢赖芳杰

让张文宏“气到想报警”的，是幽灵一般的AI造假合成视频。据中国青年报，有网友发消息称，“张文宏是不是带货了？”视频中，张文宏在卖一种蛋白棒，家里的老人信以为真，已经开始下单了。对此，张文宏的回应愤怒且无奈。

张文宏表示，“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民，就很容易相信。我看购买量在不同的地方好像都有不少。我在发现这个事情后立即投诉过那个AI合成的视频，但他的账号一直在换，我最后也没有精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。” 对此，上海市消保委针对该事件严厉发声，表示未经当事人授权的AI合成带货行为已经构成了对消费者的欺诈，呼吁监管部门严厉处罚。

毫无疑问，不断迭代升级的AI技术改变着世界，推动着社会的发展进步。但AI的不当使用和涉嫌违法违规的滥用，给我们带来了困扰甚至是损失和侵害。在AI技术面前，“眼见为实”“有图有真相”的常规认知正在被挑战。低成本的AI图像生成，成为一些别有用心之人的造谣敛财工具。除了AI造假带货，还有AI换脸诈骗，甚至还有AI换脸“一键脱衣”等违法滥用。“魔”高一尺，“道”可高一丈吗？一些世界领先的科技公司，也在尝试用AI学习模型利用算法检测判断图像是否有被编辑的痕迹，或者探索基于深度学习的抗编辑视频水印技术。但是现阶段的AI打假尚有局限，也非常耗时耗资源。

人工智能的造假与打假，将是一场“持久战”。相比于用“魔法”打败“魔法”，治理AI造假的底层逻辑，应该是建立保证信息真实的生态体系，完善法律规范，明确技术使用界限与道德。此前，国家互联网信息办公室发布《网络音视频信息服务管理规定》，要求网络音视频信息服务提供者应当具有与新技术新应用发展相适应的安全可控的技术保障，部署违法违规音视频和非真实音视频鉴别技术。在2022年，我国颁布的《互联网信息服务深度合成管理规定》就划定了深度合成技术的使用规范，包括不得利用深度合成服务侵犯他人合法权益等法律规定。相关部门应加快出台并完善人脸识别数据管理专项法律，规范数据采集、存储和应用。同时加强行政监管机制建设，在传播渠道上，要建立过滤机制，并且要对所有造假视频音频实现溯源。此外，公众也要提高警惕性，保护个人隐私。不随意在网上发布包含自己人脸的图片。