平安科技申请黑盒骨骼行为识别对抗攻击专利，提高扰动的稀疏性

金融界2024年10月9日消息，国家知识产权局信息显示，平安科技（深圳）有限公司申请一项名为“黑盒骨骼行为识别对抗攻击方法、装置、设备及存储介质”的专利，公开号CN 118747914 A，申请日期为2024年6月。

专利摘要显示，本申请涉及计算机安全防护领域和数字医疗领域，公开了一种黑盒骨骼行为识别对抗攻击方法、装置、设备及存储介质，所述方法包括基于类激活图CAM算法，确定目标图像帧中的关键骨骼节点及关键骨骼节点在当前场景下的初始样本；通过扰动方式与初始样本，生成目标对抗样本，以通过目标对抗样本对初始样本进行黑盒骨骼行为攻击。通过上述方式，本申请通过CAM算法，精确地识别出目标图像帧中对于模型识别至关重要的关键骨骼节点，为后续的攻击提供了明确的目标。通过预设扰动方式生成目标对抗样本，用于测试和改进模型的安全性，在黑盒环境下，即使没有模型的内部结构信息，也可以通过生成的目标对抗样本对模型进行攻击，提高了扰动的稀疏性。

本文源自：金融界

作者：情报员