山东大学学报(理学版)

北大核心,CA,JST,CSCD扩展版,WJCI

国内刊号:37-1389/N

国际刊号:1671-9352

山东大学学报(理学版)杂志2024年第7期:基于聚类和群组归一化的多模态对话情绪识别

发布日期:

作者:罗奇,苟刚

单位:1. 贵州大学公共大数据国家重点实验室, 贵州 贵阳 550025;2. 贵州大学计算机科学与技术学院, 贵州 贵阳 550025

关键词:图神经网络,特征融合,群组归一化,聚类,对话情绪识别,

基金:国家自然科学基金资助项目(62162010);贵州省科技支撑计划资助项目(黔科合支撑[2022]一般267)

相似情绪类别识别混乱导致识别效果下降的问题一直是多模态情绪识别任务的一大挑战。针对此问题, 提出一个基于聚类群组归一化的关系图神经网络模型方法。首先使用3个不同特征提取器提取出3种模态特征, 并融入说话者编码后进行拼接, 既丰富特征表示又保留原始信息; 其次使用Transformer提取上下文信息; 最后将特征节点输入关系图卷积神经网络后, 通过对节点进行聚类分组, 并独立地进行群组归一化, 使相似节点更加相似, 缓解相似情绪容易识别混乱的问题。通过实验验证, 提出的网络模型在IEMOCAP数据集四分类上的F1值可达到86.34%, 验证该方法的有效性, 并且目前该模型达到IEMOCAP数据集的最佳性能。

来源:2024年第7期

《山东大学学报(理学版)》期刊编辑部

查看山东大学学报(理学版)杂志2024年第7期

联系我们

  • 地址:山东省济南市山大南路27号
  • 电话:0531-88366917
  • E-mail:xblxb@sdu.edu.cn

咨询工作人员