国内刊号:31-1289/TP
国际刊号:1000-3428
发布日期:
作者:林海, 王和钰, 曹越, 王丽园, 王世杰
单位:1. 武汉大学国家网络安全学院, 湖北 武汉 4300722. 中交第二公路勘察设计研究院有限公司, 湖北 武汉 430056
关键词:边缘智能,硬件感知,网络架构搜索,推理时延,网络大小
基金:湖北省重点研发计划项目(2023BAB022); 湖北省国际科技合作项目(2023EHA033); 国家重点研发计划(2022YFB3102100)
边缘智能面临计算实时性、资源受限等挑战, 且不同设备间差异较大。多数研究通过模型压缩设计轻量化网络, 以满足边缘场景下的快速推理需求。然而过度压缩导致精度下降的同时并不能缩短推理延时, 从而影响边缘智能的性能。为了满足实时需求与计算资源约束条件下提高模型精度, 提出面向硬件感知的边缘智能框架: LuffyNet。该框架通过查找表估算模型推理性能, 并以计算时延和设备内存资源为约束, 实现对边缘设备的硬件感知。为得出符合时延约束且匹配边缘设备计算资源的高精度网络, LuffyNet框架以模型精度、推理时延和网络大小为优化目标, 通过梯度下降完成目标网络模型的构建。为缩减架构搜索的时间, LuffyNet框架基于Best Optimize策略与Worst Optimize策略, 减少搜索过程中的无效计算, 降低搜索的时间成本和计算开销。在3个LuffyNet网络和4个先进模型上的实验结果表明, LuffyNet-A以1.69 ms延迟实现66.50%的Top-1精度, 比ResNet50快近5倍, 且大小仅为6.58 MB。LuffyNet-B与LuffyNet-C在2.65 ms延迟内实现超过73%的Top-1精度, 优于ResNet18、ResNet50、DenseNet121与DenseNet169等先进模型的精度与推理速度表现。消融实验进一步验证了基于Best Optimize策略与Worst Optimize策略的LuffyNet框架, 不仅能找到匹配边缘设备的网络, 而且能将搜索时间缩短接近25%。
来源:2026年第5期
《计算机工程》期刊编辑部