计算机工程

作者：任书玉, 汪晓丁, 林晖

单位：福建师范大学计算机与网络空间安全学院, 福建 福州 350117

关键词：注意力机制,计算机视觉,深度学习,DETR模型,目标检测

基金：国家自然科学基金(61702103); 国家自然科学基金(U1905211); 福建省自然科学基金(2020J01167); 福建省自然科学基金(2020J01169)

Transformer在自然语言处理中表现出优越的性能激励了研究人员开始探索其在计算机视觉任务中的应用。基于Transformer的目标检测模型DETR将目标检测视为一个集合预测问题, 引入Transformer模型来解决目标检测任务, 从而避免了传统方法中的提案生成和后处理步骤。最初的DETR在训练收敛和小物体检测方面存在速度慢、效率低的问题。为了解决这些问题, 研究人员进行了多方面改进, 提升了DETR的性能。对DETR的基本模块和增强模块进行深入研究, 包括对主干结构的修改、查询设计策略和注意力机制的改进, 同时对各种检测器进行比较分析, 评估它们的性能和网络架构, 探讨了DETR在计算机视觉任务中的潜力和应用前景以及目前存在的局限性和面临的挑战, 并对相关模型进行分析与总结。根据目标检测发展的现状, 分析注意力模型的优势与局限性, 并对注意力模型在目标检测领域的研究方向加以展望。

来源：2024年第12期

《计算机工程》期刊编辑部

查看计算机工程杂志2024年第12期