计算机工程

北大核心,CA,INSPEC,JST,Pж(AJ)

国内刊号:31-1289/TP

国际刊号:1000-3428

计算机工程杂志2022年第4期:基于因果干预与不变性的卷积预训练模型优化研究

发布日期:

作者:胡璇, 邢凯, 李亚鸣, 王志勇, 邓洪武

单位:1. 中国科学技术大学 计算机科学与技术学院, 合肥 230027;2. 中国科学技术大学 苏州高等研究院, 江苏 苏州 215123;3. 中国科学技术大学 网络空间安全学院, 合肥 230027

关键词:图像识别与分类,卷积神经网络,因果干预,不变性,资本资产定价模型

基金:国家自然科学基金(61332004)。

基于卷积神经网络(CNN)的深度模型在图像识别与分类领域应用广泛,但在全局特征控制、概念层次特征不变性提取和变量之间的因果关系确定方面仍存在不足,使得深度模型缺乏灵活性、适应性及泛化性。基于因果干预和不变性,提出一种基于CNN深度模型的定向修剪和网络结构优化方法。通过对模型输入进行基于不变性的干预调制,根据生成的调制图片序列分析预训练网络卷积子结构的输出分布,筛选和定向修剪噪声敏感子结构。构建基于类间区分度的目标函数,借助经济学领域中的资本资产定价模型构建网络的层间连接,生成在单分类任务下能增大类间区分度的网络拓扑结构,逐层优化构建概念层次的稳定特征。在ImageNet-2012数据集上的实验结果表明,优化后的深度模型相比于ResNet50基线预训练模型的分类准确率约提升了5个百分点,并大幅降低了训练集规模。

来源:2022年第4期

《计算机工程》期刊编辑部

查看计算机工程杂志2022年第4期

联系我们

  • 地址:上海市嘉定区澄浏公路63号
  • 电话:(021) 67092217
  • E-mail:ecice06@ecict.com.cn

咨询工作人员