计算机工程

作者：张俊娜, 王泓尊, 丁春涛

单位：1. 河南师范大学计算机与信息工程学院, 河南 新乡 4530072. 北京师范大学人工智能学院, 北京 100875

关键词：后训练量化,后训练量化步骤,后训练量化方法分类,工具生态,应用进展

基金：国家自然科学基金(62472147); 国家自然科学基金(62202039); 河南省重点研发专项(251111210500)

后训练量化(PTQ)是一种高效的模型压缩方法, 它无需重新训练模型, 只需少量(或无需)无标签校准数据即可将高精度浮点模型的参数转换为低比特整数表示。该方法在显著降低存储与计算开销的同时能够最大限度地保留原始模型的推理精度, 因而受到学术界与工业界的广泛关注。从PTQ的量化步骤、方法分类、工具生态、应用进展4个维度, 系统总结PTQ的研究进展。首先, 构建了量化流程框架, 涵盖动态范围统计、量化参数计算、权重与激活量化、误差优化和模型生成等步骤; 其次, 提出一个完整的量化方法分类体系, 从量化粒度、位宽、校准方法到结构导向量化; 再次, 分析了支持PTQ规模化应用的工具生态, 探讨了其在硬件适配和工程部署中的应用价值; 最后, 总结了PTQ方法的融合与应用进展, 并指出PTQ方法在实践中面临的挑战, 尤其是跨模态一致性、极低比特语义崩塌与硬件适配等难题。这些实践挑战的总结不仅揭示了当前技术的局限性, 也为未来研究提供了重要方向。本综述为学术界与工业界提供了PTQ方法的参考框架, 助力推动人工智能在资源受限场景中的广泛应用。

来源：2026年第1期

《计算机工程》期刊编辑部

查看计算机工程杂志2026年第1期