基于多类指数损失函数逐步添加模型的改进多分类AdaBoost算法

摘要 多类指数损失函数逐步添加模型（SAMME）是一种多分类的AdaBoost算法，为进一步提升SAMME算法的性能，针对使用加权概率和伪损失对算法的影响进行研究，在此基础上提出了一种基于基分类器对样本有效邻域分类的动态加权AdaBoost算法SAMME.RD。首先，确定是否使用加权概率和伪损失；然后，求出待测样本在训练集中的有效邻域；最后，根据基分类器针对有效邻域的分类结果确定基分类器的加权系数。使用UCI数据集进行验证，实验结果表明：使用真实的错误率计算基分类器加权系数效果更好；在数据类别较少且分布平衡时，使用真实概率进行基分类器筛选效果较好；在数据类别较多且分布不平衡时，使用加权概率进行基分类器筛选效果较好。所提的SAMME.RD算法可以有效提高多分类AdaBoost算法的分类正确率