国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:方玉玲, 陈庆奎
单位:上海理工大学 a. 管理学院;b. 光电信息与计算机工程学院, 上海 200093
关键词:深度学习,卷积计算,直接卷积,矩阵分块,计算统一设备架构,卷积优化
基金:国家自然科学基金(61572325,60970012);高等学校博士学科点专项科研博导基金(20113120110008);上海重点科技攻关项目(14511107902,16DZ1203603);上海市工程中心建设项目(GCZX14014);上海智能家居大规模物联共性技术工程中心项目(GCZX14014);上海市一流学科建设项目(XTKX2012);沪江基金研究基地专项(C14001)。
提出一种基于矩阵转换的高效卷积计算优化方法MCFA。根据输出矩阵的宽度和卷积核大小对输入矩阵进行分块,通过im2col方法转换输入矩阵子块和核函数矩阵,利用计算统一设备架构中封装的矩阵-矩阵乘法加速库提升卷积计算的速度。在此基础上,将输出子块按序排列,最终得到完整的输出矩阵。实验结果证明,该方法相比im2col方法能节省61.25%的计算空间,相比MEC方法能提高20.57%的计算速度,且在分块情况下可以缓解大输入矩阵引起的缓存压力,提高缓存利用率。
来源:2019年第7期
《计算机工程》期刊编辑部