计算机工程

作者：刘家航, 郁龚健, 李佩琦, 华夏, 柴志雷, 陈闻杰

单位：1. 江南大学 人工智能与计算机学院, 江苏无锡 214122;2. 江苏省模式识别与计算智能工程实验室, 江苏 无锡 214122;3. 华东师范大学 软硬件协同设计技术与应用教育部工程研究中心, 上海 200062

关键词：脉冲神经网络,神经元重分布,PYNQ集群,NEST仿真器,稀疏交换

基金：国家自然科学基金“基于工作负载表征的类脑体系结构基准测试模型与自动映射方法研究”（61972180）。

为满足大规模脉冲神经网络（SNN）的计算需求，类脑计算系统通常需要采用大规模并行计算平台。然而随着节点数量的增多，通信在仿真中所占比例大幅增加，导致计算效率下降。类脑模拟器开源软件NEST采用缓冲区大小相等的策略，有效缩短了通信时间，但是由于缓冲区互相无交流，使得通信数据量持续增加，因此其在能耗方面表现较差。分析NEST集群的负载特性，针对其中的通信问题进行稀疏性优化，提出基于SNN子图跨节点优化的神经元重分布算法ReLOC。通过优化SNN子图的跨节点分布减少每一轮神经元到进程的数量，从而减少跨节点脉冲，使进程间通信更加稀疏，达到缩减每一轮通信进程的目的。在此基础上，以稀疏交换的思想对NEST本身的通信机制进行改进，使有脉冲交换的进程进行数据交换，从而在连接稀疏的情况下提升通信效率。以包含28个Xilinx PYNQ节点的计算集群作为实验平台，运行皮质微电路SNN模型和平衡随机网络模型，验证ReLOC算法的有效性。实验结果表明，相比循环分布算法，重分布算法能够使通信的平均稀疏性提高20%，同时配合稀疏交换最多可使通信能耗减少98.63%。

来源：2022年第3期

《计算机工程》期刊编辑部

查看计算机工程杂志2022年第3期