正在阅读《第一节 分类问题及其评价》
第(2/2)页


表格中各记号的含义是这样的。把二分类的两个类别分别记为正(positive)和反(negative),分类模型的预测结果也有两种,即对(True)和错(False)。类别和预测结果有以下四种组合方式。

真正例(TP,TruePositives):正类样本(称为正例)被正确预测为正例;

真负例(TN,TrueNegatives):负类样本(称为负例)被正确预测为负例;

假正例(FP,FalsePositives):负例被错误预测为正例;

假负例(FN,FalseNegatives):正例被错误预测为负例。

例如,在客户分类问题中,以优质客户为正,那么如果优质客户被错误预测为非优质客户就是一个假负例。混淆矩阵中的数值之间显然存在如下关系。

TP+FN+FP+TN=P+N=P'+N'=样本总数

建立了混淆矩阵后,就可以使用它来计算一些分类器的评价指标了。

(1)准确率

准确率是最常用的评价指标,指分类正确的样本数占样本总数的比例。即

通常情况下,当然是正确率越高的分类器,分类性能越好。

(2)错误率

错误率是对应于准确率的另一个常用指标,指分类错误的样本数占样本总数的比例,显然正确率和错误率的和等于1,即

错误率越高的分类器,当然性能越差。

(3)精度

精度(precision)又叫查准率,表示预测为正例的样本中真正例所占的比例。一般认为查准率越高,模型的性能越好。

(4)灵敏度

灵敏度又叫查全率、召回率(recall)、真正率(TPR),表示所有正例中被正确预测为正例的比例。灵敏度越高,模型性能越好。

(5)假正率

假正率表示被错误预测为正例的样本(实际为负例)占所有负例的比例。假正率越高,模型性能越差。

(6)假负率

假负率表示被错误预测为负例的样本(实际为正例)占所有正例的比例。假负率越高,性能越差。显然它等于1-TPR,即:

评价一个分类器的好坏,除了上述指标,还需要考虑算法收敛的速度、使用分类器进行预测的速度、对于数据异常的鲁棒性、分类器的扩展性、分类结果的可解释性等,还可以使用TPR和FPR分别作x轴和y轴的坐标绘出ROC曲线再进行评价,这里不再一一介绍。

在这些评价指标中,正确率当然是很常用、很有效的评价指标,但其他指标在不同问题中同样可以起到重要的评价作用。当两个类别中正负样本数量差距悬殊时,仅使用正确率进行评价就是很糟糕的选择。例如,使用监测数据进行地震预报,发生地震为正,没发生地震为负。假设在所有监测数据中,发生地震的情况只占1%。如果有一个分类器,使用任意数据进行预测时,都会预测为不发生地震(即所有数据都判定为负例),它的准确率是99%,分类准确率很高,但是这样的模型显然性能非常糟糕,造成的后果也是非常严重的。对于这种正样本很少出现的情况,同时采用精度和灵敏度进行评价会更有效。

还有一点需要说明,一个分类器通常不能使各个评价指标都达到最优,甚至某些指标是互相冲突的,一个变好,而另一个一定会变差。所以需要在各个指标之间进行平衡,并且根据具体问题确定哪些指标更重要,而在设计算法时优先考虑重要的指标。例如,在上述地震预报问题中,精度和灵敏度显然更重要。在设计分类算法时,对训练数据的处理和评价指标的选取是个复杂的问题,读者可通过实践逐渐掌握其中的技巧。

本节最后,针对客户分类的简单模型计算这些评价指标,以便读者熟悉其计算方式。首先建立该模型对应的混淆矩阵,以优质客户为正,非优质为负,如表3-3所示。

表3-3

举例说明一下上述混淆矩阵的具体计算方法。例如,假负例(FN),即判断为非优质,但是其实为优质客户的数量。按照前述模型的分类方式,因为第2,4,6条数据的消费频率不高,所以都会被判断为非优质客户,但是它们其实都属于优质客户,所以FN=3。其他的计算是类似的,请读者自行验证。

有了混淆矩阵,各个指标的计算就很容易了。

从评价结果看,虽然这个模型还不够准确,但是也超过了随机指定分类的正确率(50%),它的精度甚至达到了100%。

相关小说

大宋将门 架空 / 完结
大宋将门
青史尽成灰
杨柳晓风,残月歌声,百年太平,繁荣大宋。这里有明君,有贤臣,物阜民丰,安居乐业……唯独缺少一分勇武,二分刚强,三分牺牲,四分猛士……手里没有一柄宝剑,再多勤快的农夫,精巧的工匠,也不过为他人作嫁衣裳。惜呼,有国岂能无防!文不贵,武不贱。外敌易除,内鬼难胜。不经意间……轻舟已过,万重山岳,赫赫将门,终有再兴之时!——
356.24万字 8 小时前
锦颜赋 其他 / 完结
锦颜赋
渚星
前世惨死,一朝重生归来,手撕白莲花,虐渣男一不小心又惹得桃花满天飞,某世子天凌第一绝世美男,清冷孤傲,残暴冷情,为她秒变醋坛:“你和他说了三句话,为什么只对本世子说两句”“……”“你为什么在人群中多看了他一眼。”“……”她:“请问你是十万个为什么么?”某世子:“本世子是十万个只为你。”某世子:“是你娶本世子,还是本
63.86万字 7 小时前
把敌方陛下拐回家 青春 / 完结
把敌方陛下拐回家
致川
幸运值为E的普通少女玛格丽特·维尔斯一朝被绑到主城,被告知自己就是奥利维亚帝国的下一代女皇。玛格丽特:????你们选皇帝那么随意的吗!那时没有人知道,这位平平无奇只有脸还有点姿色的女皇——将会让奥利维亚帝国的白鹿旗挂至大陆的雪山之巅。萨...
21.94万字 7 小时前
加油,郝运香 都市 / 完结
加油,郝运香
刘颖
特别狠,特别敢,关于奋斗和初恋,你不了解的全部著名摄影师、导演、编剧吕乐,《迷城》《十全十美》《美人草》等电影制作人刘晶,《乱世新娘》《偏偏爱上你》《温暖的弦》编剧赵微娜联袂推荐!小城姑娘郝运香,性格大大咧咧、直爽利落,原本她应该和大多数“扶弟魔”一...
16.81万字 7 小时前
女帅 都市 / 完结
女帅
珐琅彩
ZERO公司市场品牌总监Kelly一通导弹似的电话,令整个市场部开启战斗模式,策划大半年的项目功亏一篑,kelly莫名离职消失,所有任务都交到了舒歆手上,空降而来的少爷Oscar,竟是制造一切的源头......没错,她想当一个万人景仰的女帅,可是她更在乎当一个堂堂正正清清白白...
4.8万字 7 小时前
幽冥长生 武侠 / 完结
幽冥长生
泱泱大秦1
“我叫李长生,叩问仙道,为寻长生!”成仙亦或者成魔?仙又如何,魔又如何?我只追求永生,我只追求至强。九幽之下,名为幽冥,在这个残忍的修仙世界当中,没有所谓的非黑即白,有的只是实力至上,强者为尊,弱者为蚁。凭借着手中幽冥塔,李长生踏上了一条求...
182.87万字 7 小时前