计算机工程

作者：韦越, 陈世超, 朱凤华, 熊刚

单位：1. 中国科学院大学 人工智能学院, 北京 100049;2. 中国科学院自动化研究所 复杂系统管理与控制国家重点实验室, 北京 100190;3. 澳门科技大学 资讯科技学院, 澳门 999078

关键词：深度学习,模型剪枝,卷积神经网络,稀疏约束,模型压缩

基金：国家自然科学基金委员会-浙江省人民政府两化融合联合基金（U1909204）；广东省基础与应用基础研究基金（2019B1515120030）。

现有卷积神经网络模型剪枝方法仅依靠自身参数信息难以准确评估参数重要性，容易造成参数误剪且影响网络模型整体性能。提出一种改进的卷积神经网络模型剪枝方法，通过对卷积神经网络模型进行稀疏正则化训练，得到参数较稀疏的深度卷积神经网络模型，并结合卷积层和BN层的稀疏性进行结构化剪枝去除冗余滤波器。在CIFAR-10、CIFAR-100和SVHN数据集上的实验结果表明，该方法能有效压缩网络模型规模并降低计算复杂度，尤其在SVHN数据集上，压缩后的VGG-16网络模型在参数量和浮点运算量分别减少97.3%和91.2%的情况下，图像分类准确率仅损失了0.57个百分点。

来源：2021年第10期

《计算机工程》期刊编辑部

查看计算机工程杂志2021年第10期