关于互信息准则在分类(包括拒识类别)问题中的应用

？不同于传统的基于性能为评价指标的机器学习方法,基于互信息评价准则的学习方法显示出了独到的优越性.但是,如何理解互信息概念在分类问题中的具体内涵与应用特点仍然是不明确的.本文推导了归一化互信息与包括拒识类别分类矩阵的显式表达关系.给出了归一化互信息在极值情况下的三个相关定理,以及在二值分类情况下误差敏感度分析方程.为互信息与传统分类性能指标作出了初步理论方面解释.通过给出的若干简单实例,讨论了互信息概念及评价准则在分类问题中的基本应用特点及相关问题.