利用pca和adaboost建立基于贝叶斯的组合分类器

提出了一种使用基于贝叶斯的基分类器建立组合分类器的新方法pcaboost。本方法在创建训练样本时，随机地将特征集划分成k个子集，使用pca得到每个子集的主成分，形成新的特征空间，并将全部的训练数据映射到新的特征空间作为新的训练集。通过不同的变换生成不同的特征空间，从而产生若干个有差异的训练集。在每一个新的训练集上利用adal3oost建立一组基于贝叶斯的逐渐提升的分类器(即一个分类器组)，这样就建立了若干个有差异的分类器组，然后在每个分类器组内部通过加权投票产生一个预测，再把每个组的预测通过投票来产生组合分类器的分类结果，最终建立一个具有两层组合的组合分类器。从uci标准数据集中随机选取30个数据集进行实验。结果表明，本算法不仅能够显著提高基于贝叶斯的分类器的分类性能，而且与rotationforcst和adal3oost等组合方法相比，在大部分数据集上都具有更高的分类准确率。