国内刊号:37-1389/N
国际刊号:1671-9352
发布日期:
作者:郝长盈,兰艳艳,张海楠,郭嘉丰,徐君,庞亮,程学旗
单位:1. 中国科学院网络数据科学与技术重点实验室, 中国科学院计算技术研究所, 北京 100190;2. 中国科学院大学, 北京 100190
关键词:对话生成,注意力机制,序列到序列模型,深度学习,
基金:西藏自治区科技计划项目(XZ201801-GB-17);国家重点研发计划资助项目(2016QY02D0405);国家自然科学基金资助项目(61425016);国家自然科学基金资助项目(61472401);国家自然科学基金资助项目(61722211);国家自然科学基金资助项目(61773362);国家自然科学基金资助项目(20180290);中国科学院青年创新促进会项目(20144310);中国科学院青年创新促进会项目(2016102)
在对话过程中,人们通常根据对方上一句话的关键词做出相应的回复。为了生成与关键词含义相关的回复,提出了拓展关键词信息注意力机制的对话生成模型。首先从输入语句中提取关键词,然后根据关键词词向量余弦相似度找出与关键词相关的词语构成拓展关键词集合,将集合中词语的词向量通过注意力机制的方式加入解码过程来影响回复生成。在中文微博数据集及英文Twitter数据集上的实验表明,该模型在回复语句的相关性及多样性方面取得了优于其他模型的结果。
来源:2019年第7期
《山东大学学报(理学版)》期刊编辑部