基于Shannon熵的因子特征提取算法

现存的数据提取算法，大都以方差贡献率作为评价准则，来衡量特征提取的效果．然而方差贡献率注重的是样本相关矩阵特征值的性质，并不能顾及到信息的度量问题．文中将Shannon信息熵理论引入提取算法，定义类概率、类信息函数，通过计算累计信息贡献率来确定提取特征维数，提取效果可以从信息论的角度评价．将此理论与因子分析(FA)结合，建立基于信息熵的FA特征提取算法，利用信息贡献率确定主因子提取的个数．通过实例分析，验证理论的有效性．