计算机工程

作者：赵亮, 方伟

单位：江南大学 人工智能与计算机学院, 江苏 无锡 214122

关键词：深度学习,卷积神经网络,可微结构搜索,渐进式结构搜索,划分数据集方法

基金：国家重点研发计划（2017YFC1601800）；国家自然科学基金（62073155，61673194，62106088）；广东省重点实验室项目（2020B121201001）。

手动设计卷积神经网络结构对专业性要求高、难度大。基于梯度可微的搜索快速高效，但这类方法存在深度鸿沟和稳定性较差的问题。提出一种结合渐进式搜索和贪心指标的快速渐进式结构搜索算法（FPNAS），通过渐进式扩展搜索阶段的结构，使得搜索阶段的网络结构逐渐接近评估阶段，避免深度鸿沟造成的影响。同时，通过运用贪心指标作为选边准则，增加搜索评估的相关性并提高搜索的稳定性。针对网络结构搜索算法消耗计算资源多的问题，提出渐进式划分数据集方法，通过分阶段不同比例的数据集划分来减少结构搜索的计算资源消耗。以准确率和搜索时间作为评价指标，将FPNAS与渐进式可微结构搜索算法和贪心搜索算法进行对比，实验结果表明，FPNAS搜索出的网络结构稳定性得到改进，搜索时间分别缩短0.19和0.14个GPU Days，在CIFAR-10数据集上精度最高达到97.7%。

来源：2022年第12期

《计算机工程》期刊编辑部

查看计算机工程杂志2022年第12期