计算机工程

作者：沈志东, 岳恒宪

单位：武汉大学 国家网络安全学院, 武汉 430000

关键词：文本对抗分布,对抗训练,变分自动编码器,梯度下降,蒙特卡罗采样

基金：国家重点研发计划(2018YFC1604000); 湖北省重点研发计划项目(2022BAA041)

文本对抗防御旨在增强神经网络模型对不同对抗攻击的抵御能力, 目前的文本对抗防御方法通常只能对某种特定对抗攻击有效，对于原理不同的对抗攻击效果甚微。为解决文本对抗防御方法的不足，提出一种文本对抗分布训练(TADT)方法，将TADT形式化为一个极小极大优化问题，其中内部最大化的目标是了解每个输入示例的对抗分布，外部最小化的目标是通过最小化预期损失来减小对抗示例的数量，并对基于梯度下降和同义词替换的攻击方法进行研究。在2个文本分类数据集上的实验结果表明，相比于DNE方法，在PWWS、GA、UAT等3种不同的对抗攻击下，TADT方法的准确率平均提升2%，相比于其他方法提升了10%以上，且在不影响干净样本准确率的前提下显著提升了模型的鲁棒性，并在各种对抗攻击下具有较高的准确率，展示了良好的泛化性能。

来源：2023年第9期

《计算机工程》期刊编辑部

查看计算机工程杂志2023年第9期