计算机工程

作者：苏炯铭, 刘鸿福, 项凤涛, 吴建宅, 袁兴生

单位：国防科技大学 智能科学学院, 长沙 410073

关键词：可解释的人工智能,深度神经网络,卷积神经网络,循环神经网络,生成对抗网络

基金：国家自然科学基金（61806212，61603403，U1734208，61603402，61703417）；湖南省自然科学基金（2019JJ50724）。

深度神经网络具有非线性非凸、多层隐藏结构、特征矢量化、海量模型参数等特点，但弱解释性是限制其理论发展和实际应用的巨大障碍，因此，深度神经网络解释方法成为当前人工智能领域研究的前沿热点。针对军事、金融、医药、交通等高风险决策领域对深度神经网络可解释性提出的强烈要求，对卷积神经网络、循环神经网络、生成对抗网络等典型网络的解释方法进行分析梳理，总结并比较现有的解释方法，同时结合目前深度神经网络的发展趋势，对其解释方法的未来研究方向进行展望。

来源：2020年第9期

《计算机工程》期刊编辑部

查看计算机工程杂志2020年第9期