山东大学学报(理学版)

作者：刘沛羽,姚博文,高泽峰,赵鑫

单位：1. 中国人民大学高瓴人工智能学院, 北京 100872；2. 中国人民大学物理系, 北京 100872

关键词：推荐模型,序列化数据,矩阵乘积算符,过拟合,欠拟合,

基金：国家自然科学基金资助项目(62206299);国家自然科学基金资助项目(62222215)

推荐系统中的序列化推荐任务面临着高度复杂和多样性大的挑战, 基于序列化数据的商品表示学习中广泛采用预训练和微调的方法，现有方法通常忽略了在新领域中模型微调可能会遇到的欠拟合和过拟合问题。为了应对这一问题，构建一种基于矩阵乘积算符(matrix product operator, MPO)表示的神经网络结构，并实现2种灵活的微调策略。首先，通过仅更新部分参数的轻量化微调策略，有效地缓解微调过程中的过拟合问题；其次，通过增加可微调参数的过参数化微调策略，有力地应对微调中的欠拟合问题。经过实验验证，该方法在现有开源数据集上均实现显著的性能提升，充分展示在实现通用的物品表示问题上的有效性。

来源：2024年第7期

《山东大学学报(理学版)》期刊编辑部

查看山东大学学报(理学版)杂志2024年第7期