计算机工程

北大核心,CA,INSPEC,JST,Pж(AJ)

国内刊号:31-1289/TP

国际刊号:1000-3428

计算机工程杂志2024年第6期:基于多头注意力机制融合常识知识的共情对话生成

发布日期:

作者:程腾腾, 姚春龙, 于晓强, 李旭, 王庆丰

单位:1. 大连工业大学信息科学与工程学院, 辽宁 大连 116034;2. 大连工业大学工程训练与创新创业中心, 辽宁 大连 116034

关键词:自然语言处理,共情对话生成,同理心,注意力机制,常识知识

基金:辽宁省教育厅青年科技人才“育苗”项目(J2020113);辽宁省教育厅基本科研项目(LJKZ0537)。

当前对话生成技术已取得显著进展,然而为了更好地满足人类交流的需求,研究人员开始将共情引入对话生成领域。共情作为人际交流的重要组成部分,有助于更好地理解他人的情感和感受。通过引入常识知识来加强对用户情感和处境的理解,然而目前方法对非情感知识采用统一编码以及对常识知识融合采用简单的向量拼接,导致某些常识知识特征的影响可能降低,并且各个知识之间的关联刻画模糊。为此,提出一种基于多头注意力机制融合常识知识的共情对话模型ATT-EDM。该模型对引入的5种关系(xReact、xWant、xNeed、xIntent、xEffect)进行单独编码,保留了每种常识各自的特征,并利用多头注意力机制融合常识知识,对每种知识在注意力层进行运算,以更准确地反映它们各自的影响,同时更有效地刻画各个常识知识之间的联系。在数据集EmpatheticDialogues上的实验结果表明,该模型在困惑度(PPL)、准确率和Distinct-2指标上优于基线模型,PPL降低到36.435 0,准确率和Distinct-2分别达到37.96%、3.345 5,能够生成质量更高、内容更丰富、共情能力更强的同理心响应。

来源:2024年第6期

《计算机工程》期刊编辑部

查看计算机工程杂志2024年第6期

联系我们

  • 地址:上海市嘉定区澄浏公路63号
  • 电话:(021) 67092217
  • E-mail:ecice06@ecict.com.cn

咨询工作人员