计算机工程

作者：李秉烨, 鲍宇, 曹伟, 李明泽, 徐方正

单位：1. 中国矿业大学计算机科学与技术学院/人工智能学院, 江苏 徐州 2211162. 中国矿业大学矿山数字化教育部工程研究中心, 江苏 徐州 2211163. 徐州市第一人民医院, 江苏 徐州 221116

关键词：医学影像,语义分割,视觉Transformer,可变序列,模型剪枝

基金：国家自然科学基金(52374164); 徐州市医药卫生面上研究项目(KC22110)

放射治疗是肝癌的重要治疗方式。基于深度学习的图像语义分割技术能辅助医师勾画放射靶区, 提高放射治疗的精确性。然而, 现有的医疗图像语义分割模型结构较为复杂, 且参数量大, 难以部署在资源受限的设备上。分析视觉Transformer模型参数的重要性, 发现模型不同层次的重要性参数具有特殊分布规律。据此, 提出基于可变序列的跨层通道剪枝方法。依据重要性参数分布规律, 对多头自注意力(MSA)层和前馈网络(FFN)层, 测量其重要性权重并调节取值, 形成重要性权重值的层次序列, 再为序列设定对应的剪枝率, 形成随网络深度变化的可变剪枝率序列, 从而实现MSA层和FFN层的精细化剪枝。引入循环剪枝策略, 在每一轮次模型剪枝过程中迭代更新可变剪枝率序列, 以充分削减MSA层和FFN层的冗余结构。在公开肝脏分割数据集3D-IRCADb-01上进行训练和测试, 视觉Transformer模型经剪枝后, 图像分割准确率保持不变, 但浮点运算数(FLOPs)和参数量分别减少了60.26%和66.07%。实验结果表明, 所提方法在保证分割精度的前提下, 实现了更大的剪枝率, 比固定剪枝率方法更具有优势。

来源：2026年第1期

《计算机工程》期刊编辑部

查看计算机工程杂志2026年第1期