国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:刘亚军, 仵大奎, 范科峰, 周文举
单位:1. 上海大学机电工程与自动化学院, 上海 2004442. 中国电子技术标准化研究院, 北京 100007
关键词:通道剪枝,<i>k</i>-medoids聚类,迭代搜索,斑马优化算法,自动剪枝
基金:国家重点研发计划(2021ZD0200406); 新一代人工智能国家科技重大专项(2021ZD0110600); 国家自然科学基金(61877065); 国家自然科学基金(61833011)
卷积神经网络(CNN)的高计算和存储需求限制了其在资源有限的移动边缘设备上的应用推广。模型压缩技术能够在保持网络性能不变的同时显著降低CNN的计算量及参数量。通道剪枝已被证明在模型压缩方面的有效性, 然而现有的大多数通道剪枝方法的剪枝标准是基于评估通道的重要性或人工设定的评价标准, 此类方法的实现需要较多超参数的参与, 且剪枝方法的本身也缺乏自动性。基于上述通道剪枝方法的局限性, 提出一种新的基于斑马优化算法(ZOA)的通道自动剪枝方法。该方法首先使用k-medoids聚类剪枝以形成初步压缩的网络结构, 接着利用ZOA对初步压缩形成的网络结构进行迭代优化, 以搜索出最佳的紧凑网络结构。在两种图像数据集上的实验结果验证了该方法的高效性, 尤其在CIFAR-10数据集上, 该方法在ResNet-56上取得59.3%和56.7%的浮点运算数(FLOPs)和参数剪枝率的情况下, Top-1准确率提高了0.24百分点。
来源:2025年第11期
《计算机工程》期刊编辑部