国内刊号:37-1389/N
国际刊号:1671-9352
发布日期:
作者:梁云,门昌骞,王文剑
单位:1.山西大学计算机与信息技术学院, 山西 太原 030006;2.山西大学计算智能与中文信息处理教育部重点实验室, 山西 太原 030006
关键词:基尼指数,决策树,集成学习,AdaBoost算法,间隔分析,
基金:国家自然科学基金资助项目(62076154,U21A20513,U1805263);中央引导地方科技发展资金资助项目(YDZX20201400001224);山西省自然科学基金资助项目(201901D111030);山西省国际科技合作重点研发计划项目(201903D421050)
AdaBoost算法是一种将多个基学习器通过合理策略结合生成强学习器的集成算法,其性能取决于基学习器的准确率和多样性。但弱学习器分类精度不高往往也导致了最终强分类器性能较差,因此进一步为了提高算法的分类精确率,本文提出一种MDTAda模型,首先利用基尼指数迭代构造一棵不完全决策树,然后在决策树的非纯伪叶结点上添加简单分类器,生成MDT(模型决策树),将MDT作为AdaBoost算法的基分类器,加权平均生成强分类器。在标准数据集上的实验表明,相比传统的AdaBoost算法,本文提出的算法拥有更好的泛化性能和更优的间隔分布,且在与AdaBoost算法达到相同精度时所需迭代次数更少。
来源:2023年第1期
《山东大学学报(理学版)》期刊编辑部