国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:刘瑄, 池明旻
单位:复旦大学 计算机科学技术学院 上海市数据科学重点实验室, 上海 201203
关键词:遥感图像,多粒度特征蒸馏,卷积神经网络,模型压缩,深度学习
基金:国家重点研发计划(2017YFA0402600)。
深度神经网络广泛应用于遥感图像场景分类任务中并能大幅提高分类精度,但隐藏层数较少的神经网络在标记数据不足的遥感场景分类中泛化能力较低,而隐层较多的网络往往需要较大的计算量和模型存储空间,限制了其在嵌入式设备上的应用。提出一种针对遥感图像场景分类的多粒度特征蒸馏方法,将深度网络不同阶段的特征与最终的类别概率同时作为浅层模型的监督信号,使得浅层模型能够同时学习高级与低级的语义特征,从而提高浅层模型的分类性能与泛化能力。在UC Merced Land-Use和SIRI-WHU 2个数据集上的实验结果表明,该方法能使模型在大幅降低网络参数量和计算量的情况下明显提高分类性能,与传统知识蒸馏方法相比,其分类精度更高。
来源:2021年第1期
《计算机工程》期刊编辑部