计算机工程

作者：李倩, 向海昀, 张玉婷, 甘昀, 廖浩德

单位：西南石油大学计算机科学学院, 四川 成都 610500

关键词：对抗样本,黑盒攻击,人脸识别,高斯滤波,掩码

基金：国家自然科学基金青年科学基金(61503312)

深度神经网络的快速发展使其在计算机视觉和自然语言处理等领域取得较大成功，但是对抗攻击会导致神经网络的表现性能降低，对各类系统的安全保密性造成严重威胁。现有黑盒攻击方法在人脸识别中性能表现较差，攻击成功率较低且生成对抗样本迁移性不高。为此，提出一种结合高斯滤波与掩码的对抗攻击方法G-MASK。利用Grad-CAM输出的热力图确定对抗样本的掩码区域，使其只在掩码区域施加扰动，提高黑盒攻击成功率，采用扰动集成方法提高黑盒迁移能力，增强黑盒攻击鲁棒性，对生成的扰动进行高斯平滑处理，降低集成模型之间干扰噪声的差异，提高图像质量且增强扰动掩蔽性。实验结果表明，针对不同的人脸识别模型，G-MASK方法在保证白盒攻击成功率较高的条件下能够显著提升黑盒攻击效果，并具有更优的掩蔽性，经过模型扰动集成的对抗样本白盒攻击成功率均提高至98.5%以上，黑盒攻击成功率最高达到75.9%，与快速梯度符号法（FGSM）、迭代快速梯度符号法（Ⅰ-FGSM）和动量迭代梯度符号法（MI-FGSM）相比分别平均提升12.1、10.6和8.2个百分点，充分验证了该方法的有效性。

来源：2024年第2期

《计算机工程》期刊编辑部

查看计算机工程杂志2024年第2期