国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:鲁统伟, 徐子昕, 闵锋
单位:1. 武汉工程大学 计算机科学与工程学院, 武汉 430205;2. 智能机器人湖北省重点实验室, 武汉 430205
关键词:数据增强,神经网络分类器,工业视觉,生成对抗网络,知识蒸馏
基金:湖北省科技厅重大专项“基于边缘智能计算的多源感知信息融合关键技术研究与应用”(2019AAA045)。
在图像分类和工业视觉检测过程中,缺陷样本量少导致神经网络分类器训练效率低及检测精度差,直接采用原始的离散标签又无法使网络分类器学习到不同类别间的相似度信息。针对上述问题,在区域丢弃算法的基础上,提出一种基于生成对抗网络的知识蒸馏数据增强算法。使用补丁对丢弃区域进行填补,减少区域丢弃产生的非信息噪声。在补丁生成网络中,保留生成对抗网络的编码器-解码器结构,利用编码器卷积层提取特征,通过解码器对特征图上采样生成补丁。在样本标签生成过程中,采用知识蒸馏算法中的教师-学生训练模式,按照交叉检验方式训练教师模型,根据教师模型生成的软标签对学生模型的训练进行指导,提高学生模型对特征的学习能力。实验结果表明,与区域丢弃算法相比,该算法在CIFAR-100、CIFAR-10数据集图像分类任务上的Top-1 Err、Top-5 Err分别降低3.1、0.8、0.5、0.6个百分点,在汽车转向器轴承数据集语义分割任务上的平均交并比和识别准确率分别提高2.8、2.3个百分点。
来源:2022年第4期
《计算机工程》期刊编辑部