计算机工程

作者：杨思驰, 赵荣彩, 韩林, 王洪生

单位：1. 郑州大学计算机与人工智能学院, 河南 郑州 4500002. 国家超级计算郑州中心, 河南 郑州 450000

关键词：深度计算器,本地数据共享,访存向量化,访存特征,bank冲突

基金：河南省重大科技专项(221100210600)

在深度计算器（DCU）中，本地数据共享（LDS）是相较于全局内存延迟更低、带宽更高的关键存储部件。随着异构程序对LDS的使用越来越频繁，LDS访存效率低下成为限制异构程序性能的重要因素。此外，LDS访问过程中存在bank冲突的特性，使LDS的访问应遵循一定原则才能高效利用，当线程间的数据访问呈现重叠的访存特征时，访问向量化指令会因此产生延迟。针对此问题，提出面向DCU的LDS访存向量化优化方法。通过实现连续数据访问的向量化，减少LDS的访问次数，降低访存耗时，由此提高程序访存效率。在此基础上，通过设计访存特征的判断方法，提出能够有效解决数据重叠的LDS访存向量化方法，实现一种面向国产通用加速器的LDS高效访存技术，确保向量化方法对访存效率的有效提升。实验结果表明：在使用LDS的异构程序中，LDS访存向量化实现后程序性能平均提升了22.6%，验证了所提方法的有效性；同时，向量化方法能够实现LDS线程间访存数据重叠问题的优化，使异构程序得到平均30%的性能提升。

来源：2024年第2期

《计算机工程》期刊编辑部

查看计算机工程杂志2024年第2期