MIT团队研发AI对抗软件，能阻止Stable Diffusion编辑你的照片

对于我们经常发的自拍照片，目前没有什么方法能阻止人们使用强大的生成式人工智能系统来获取和编辑它。更糟糕的是，由于这些系统的复杂性，我们可能难以证明生成的图像是假的。

好消息是，麻省理工学院（MIT）的研究人员发明了一种新工具，可以阻止这种情况。

这款名为 PhotoGuard 的工具就像一个保护罩，它能以人眼看不见的微小方式改变照片，可以防止照片被修改。如果有人试图使用基于生成式人工智能模型（如 Stable Diffusion）的图片编辑应用程序来操纵被 PhotoGuard“防护”的图像，生成结果将变得不现实或扭曲。

现在，“任何人都可以拿走我们的照片，随心所欲地修改它，让我们看起来很糟糕，然后勒索我们，”参与这项研究的 MIT 博士生哈迪·萨尔曼（Hadi Salman）说。这项研究是在本周的国际机器学习会议上提出的。

（来源：MIT CSAIL）

PhotoGuard“试图解决我们的照片被这些模型恶意操纵的问题，”萨尔曼说。例如，该工具可以帮助防止女性的自拍被制作成未经同意的深度伪造色情内容。

找到检测和阻止人工智能操纵的方法从未像现在这样迫切，因为生成式人工智能工具可以让篡改图片以往任何时候都更快、更容易。

、和 等领先的人工智能公司在与白宫达成的自愿承诺中表示，它们将承诺开发此类方法，以防止欺诈和欺骗。PhotoGuard 是另一种技术“水印”的补充技术： PhotoGuard 旨在阻止人们使用人工智能工具篡改图像，而水印则使用了类似的不可见信号，允许人们从人工智能生成的内容中检测它。

此次 MIT 团队使用了两种不同的技术，来阻止图片被开源图像生成模型 Stable Diffusion 所编辑或篡改。

第一种技术被称为编码器攻击。PhotoGuard 将难以察觉的信号添加到图像中，使人工智能模型将其解释为其他东西。例如，这些信号可能会导致人工智能将美国电视主持人“崔娃”特雷弗·诺亚（）的图像分类为纯灰色块。因此，任何试图使用 Stable Diffusion 编辑“崔娃”的结果都会看起来不够真实。

第二种更有效的技术被称为扩散攻击（diffusion attack）。它破坏了人工智能模型生成图像的方式，本质上是通过用秘密信号编码来改变模型处理图像的方式。

通过将这些信号添加到“崔娃”的图像中，研究小组成功地操纵了扩散模型，使其忽略了提示，并生成了研究人员想要的图像。因此，任何人工智能编辑的“崔娃”图像看起来都是灰色的。

美国芝加哥大学计算机科学教授本·赵（）说，这项工作“很好地结合了对某种东西的 迫切需求和现在可以做的事情”。他开发了一种类似的名为 Glaze 的保护方法，，艺术家可以使用它来防止他们的作品被收集到人工智能模型中。

的研究科学家艾米丽·温格（）也参与了 Glaze 的研究，并开发了阻止面部识别的方法。她表示，PhotoGuard 等工具让恶意使用人工智能变得更加困难，从而改变了攻击者的经济效益和动机。

“门槛越高，愿意或能够克服它的人就越少，”说。

说，一个挑战是如何将这种技术转移到其他模型上。研究人员已经在网上发布了一个演示，允许人们对自己的照片进行保护，但目前它只能对 Stable Diffusion 模型生效。

美国马里兰大学的博士生瓦莱里娅·切列帕诺娃（Valeriia Cherepanova）开发了保护社交媒体用户免受面部识别的技术，她说虽然 PhotoGuard 可能会让篡改新照片变得更加困难，但它并不能提供针对深度伪造的完全保护，因为用户的旧照片仍可能被滥用，而且还有其他方法可以制造深度伪造照片。

MIT 教授亚历山大·马德里（）参与了这项研究。他说，理论上人们可以在将照片上传到网上之前对其进行保护。但他补充说，对科技公司来说，更有效的方法是将其自动添加到人们上传到平台上的图片中。

然而，这是一场“军备竞赛”。虽然科技公司承诺改善保护方法，但它们仍在以惊人的速度开发新的、更好的人工智能模型，而新模型可能会攻破任何新的保护措施。

萨尔曼说，最好的情况是，开发人工智能模型的公司也能为人们提供一种方法，在每次人工智能模型更新之后，都可以让他们的图像变得不受其最新模型影响。

生成式人工智能和深度伪造专家亨利·艾德尔（）表示，与试图使用不可靠的方法检测人工智能篡改结果相比，从源头上保护图像不受人工智能操纵是一个更可行的选择。

他说，任何社交媒体平台或人工智能公司“都需要考虑保护用户免受（未经同意的）色情内容的攻击，或者他们的脸被克隆用来创建诽谤内容。”

作者简介：梅丽莎·海基莱（Melissa Heikkilä）是《麻省理工科技评论》的资深记者，她着重报道人工智能及其如何改变我们的社会。此前，她曾在 POLITICO 撰写有关人工智能政策和政治的文章。她还曾在《经济学人》工作，并曾担任新闻主播。

支持：Ren

运营/排版：何晨龙

由 DeepTech 携手《麻省理工科技评论》重磅推出的《科技之巅：全球突破性技术创新与未来趋势（20 周年珍藏版）》已开售！点击下方海报可购买图书！！