欧盟“聊天控制”：CSAM 扫描法律提案引争议
欧盟在严格的隐私法领域一直享有盛誉。但一项打击儿童虐待的立法计划——该联盟早在2022 年 5 月就已正式提出——有可能降低数亿区域即时通讯应用用户的隐私和安全。
起草该提案的欧盟立法机构欧盟委员会将其表述为一项旨在通过打击虐待儿童者滥用主流技术工具来保护儿童在线权利的计划，并称这些虐待者越来越多地使用即时通讯应用来传播儿童性虐待材料（CSAM），甚至获取新的受害者。
或许是由于来自儿童安全技术部门的游说，欧盟所采取的方法属于技术解决主义。委员会的倡议侧重于规范数字服务——主要是即时通讯应用——通过法律规定它们有责任使用技术工具扫描用户的通信，以检测和报告非法活动。
多年来，主流即时通讯应用在欧盟的电子隐私规则（关乎数字通信的保密性）方面一直享有临时豁免——根据其上次延期，该豁免持续至 2025 年 5 月——所以在某些情况下，它们能够自愿扫描人们的通信来查找 CSAM。
然而，儿童虐待法规将确立永久性规则，实质上要求在整个欧盟范围内开展基于人工智能的内容扫描。
该提案的批评者认为，这会致使即时通讯平台默认被迫运用不完善的技术扫描用户的私人通信——给人们的隐私造成可怕的后果。他们还警告说，这使欧盟与强加密发生冲突，因为该法律将迫使端到端加密（E2EE）应用降低其安全性，以符合内容筛选要求。
对该提案的担忧如此之甚，以至于欧盟自身的数据保护监管机构去年警告称，这代表着民主权利的一个转折点。根据一份评估的泄露内容，向欧洲理事会提供的法律咨询服务也认为它与欧盟法律不相符。欧盟法律确实禁止施加一般性的监控义务，因此如果该法律通过，几乎肯定会面临法律挑战。
截至目前，欧盟的共同立法者仍未能就该文件的前行方向达成一致。但该法律草案仍在生效——连同它所带来的所有风险。
委员会的原始提案包含一项要求，即平台一旦收到检测命令，不仅必须扫描已知的 CSAM（即先前已识别并进行哈希处理以进行检测的儿童虐待图像），还必须扫描未知的 CSAM（即新的虐待图像）。这将进一步加大以高精度和低误报率检测非法内容的技术挑战。
委员会提案中的另一个部分要求平台能够实时识别诱骗活动。
这意味着，除了扫描上传的图像来查找儿童性虐待材料（CSAM）外，应用程序还得能够解析用户通信的内容，从而试图弄清楚成年用户何时可能试图引诱未成年人进行性活动。
使用自动化工具来检测应用程序用户之间一般交互中可能预示未来滥用行为的迹象，这表明存在很大误读无辜聊天的可能性。
反对该提案的人表示，总体而言，委员会广泛的 CSAM 检测要求会将主流消息平台变成大规模监控工具。
“聊天控制”是他们想出来的主要称呼，涵盖了对欧盟通过一项要求全面扫描公民数字消息（包括筛选人们所发送的文本交流）这一法律的担忧。
委员会最初有关打击儿童性虐待的法规提案，也未将端到端加密（E2EE）平台排除在 CSAM 检测要求的范围之外。
很显然，由于使用 E2EE 意味着这类平台无法访问用户通信的可读版本——因为它们不持有加密密钥——要是法律要求安全消息服务去理解它们看不到的内容，这些平台就会面临特定的合规问题。
所以，欧盟计划的批评者警告称，该法律会迫使 E2EE 消息平台通过实施像客户端扫描这类风险技术作为合规措施，从而降低其提供的旗舰安全保护。
委员会的提案未提及平台应部署用于 CSAM 检测的特定技术。相关决策被转交给法律将设立的欧盟打击儿童性虐待中心。但 专家预测 ，它很可能会被用于强制采用客户端扫描。
另一种可能性是，已经实施了强大加密的平台或许会选择彻底从该地区撤回其服务；比如，Signal Messenger 就已经 此前警告称将离开某个市场 ，而不是被法律强迫去损害用户安全。这种情况可能会导致欧盟的民众无法使用采用黄金标准 E2EE 安全协议来保护数字通信的主流应用程序，像 Signal、Meta 旗下的 WhatsApp 或者苹果的 iMessage ，这里仅列举三个。
该提案的反对者声称，欧盟所起草的所有措施均无法达成防止儿童受虐的预期成效。
相反，他们预计这会给应用程序用户带来可怕的连锁反应，原因是数百万欧洲人的私人通信将暴露于不完善的扫描算法之中。
他们觉得，这反过来很可能引发众多误报；数百万无辜之人或许会被错误地牵扯进可疑活动里，给执法部门增添大量虚假报告的负担。
欧盟提案所构想的系统需要定期把公民的私人信息透露给第三方，而这些第三方会参与核查平台检测系统发给他们的可疑内容报告。
所以，即便某一特定的被标记内容在报告链的早期阶段被认定为不可疑，最终未被转发给执法部门展开调查，可它依然必定会被发送者和预期接收者之外的其他人查看。通信隐私，就此拜拜啦！
确保从其他平台窃取来的个人通信的安全，也会形成一个持续的安全难题，如果参与处理内容报告的任何第三方安全举措不当，所报告的内容或许会进一步被曝光。
人们使用端到端加密是有缘由的，不让一堆中间人触及你的数据就是其中之一。
通常来讲，欧盟的立法属于三方事务，由欧盟委员会提出立法，其共同立法者，也就是欧洲议会和理事会，与欧盟的行政部门合作，试图达成一个他们全都能认可的妥协方案。
然而，就虐待儿童法规而言，欧盟各机构迄今对该提案持有截然不同的看法。
一年前，欧洲议会的议员们通过建议对欧盟委员会的提案进行重大修订，确定了他们的谈判立场。来自各个政治派别的议员支持大幅修改，旨在降低权利风险——包括支持完全免除端到端加密平台的扫描要求。
他们还提议对扫描加以限制，以使其更具针对性：增加一项规定，即筛查应仅针对涉嫌儿童性虐待的个人或群体的信息来进行——也就是说，法律不应在平台收到检测令后对所有用户进行全面扫描。
欧洲议会议员支持的另一项修改把检测范围限制在已知和未知的儿童性虐待材料上，取消了要求平台通过筛选基于文本的交流来发现诱骗行为这一规定。
议会的提案版本还推动包含其他类型的措施，例如要求平台默认把个人资料设置为非公开，以提升用户隐私保护水平，降低未成年人被掠夺性成年人发现的风险。
总体而言，欧洲议会议员的方法看上去比委员会的原始提案要平衡得多。然而，自那以后，欧盟选举改变了议会的构成。新当选的欧洲议会议员的观点不太清晰。
还有一个问题是，由成员国政府代表组成的欧洲理事会将会如何行事。它尚未就该文件达成谈判授权，这便是与议会的讨论无法开启的原因。
去年，理事会无视欧洲议会议员的请求，不认可他们的妥协。相反，成员国似乎更倾向于接近委员会“扫描一切”的原始立场。但在如何推进这件事上，成员国之间也存在分歧。截至目前，有足够多的国家反对理事会主席提出的妥协文本，因而无法达成授权。
在理事会讨论期间泄露的提案显示，成员国政府仍在试图保留全面扫描内容的能力。但 2024 年 5 月的一份妥协文本试图对这一表述进行调整——委婉地将对消息平台的法律要求描述为“上传审核”。
这引发了 Signal 总裁梅雷迪思·惠特克（Meredith Whittaker）的公开介入，她指责欧盟立法者沉迷于“言辞游戏”，企图争取对大规模扫描公民通信的支持。她郑重警告，这会“从根本上破坏加密”。
当时泄露给媒体的文本还< a href="#" rel="noreferrer noopener nofollow">据报提议，可以要求即时通讯应用程序用户同意对其内容进行扫描。然而，不同意扫描的用户，其应用程序的关键功能会被禁用，这就意味着他们没法发送图像或网址。
在这种情况下，欧盟的即时通讯应用程序用户基本上会被迫在保护隐私还是拥有现代即时通讯应用程序体验之间做选择。任何选择隐私的人都会被降级为只有文本和音频的基本傻瓜手机式功能集。没错，这确实是地区立法者一直琢磨的事儿。
最近有迹象显示，理事会内部推动对公民信息进行大规模监控的支持或许在减少。本月早些时候，Netzpolitik 报道了荷兰政府的一项声明< a href="#" rel="noreferrer noopener nofollow">说其将对另一项调整后的妥协方案弃权，理由是对端到端加密（E2EE）的影响以及客户端扫描带来的安全风险感到担忧。
本月早些时候，关于该法规的讨论也< a href="#" rel="noreferrer noopener nofollow">从另一个理事会议程中撤了回来，显然是由于缺乏合格的多数票。
但仍有好多欧盟国家继续支持欧盟委员会推动全面信息扫描。而现任匈牙利理事会主席国好像致力于继续努力寻找妥协方案。因此，风险并未消失。
成员国仍有可能达成一个提案版本，足以让其政府满意，从而为跟欧洲议会议员进行谈判打开大门，这会让一切在欧盟的闭门三方讨论过程中都充满变数。所以，欧洲公民的权利——还有欧盟作为隐私捍卫者的声誉——所面临的风险依旧很高。
© 2024 TechCrunch. 保留所有权利。仅供个人使用。