正在阅读《第二节 朴素贝叶斯分类算法》
第(2/2)页


A1由发文篇数和注册天数的比值确定,是一个取连续值的变量。对于这种取值,需要先把它转换成离散值,然后计算它取相应的离散值的概率。假设把发文频率划分成(-∞,0.05,(0.05,0.2)和[0.2,+∞)三个区间,然后计算发文频率落在这三个区间的概率。可以把这种划分方式理解成,发文频率落在三个区间中分别对应到发文频率这一特征属性的取值为{-1,0,1}。之所以划分成这样的三个区间,可认为是依据经验,这样三个区间恰好对应到发文频率低、中、高三种情形。A2是一个布尔型取值的特征属性,取值为{0,1},分别对应到注册信息不完备和完备两种情形。

假设通过人工标注的方式获得了10000条训练数据,并且依据训练数据计算得到如下概率。

P(C1)=0.9,P(C2)=0.1

P(A1=-1|C1)=0.1,P(A1=0|C1)=0.5,P(A1=1|C1)=0.3

P(A2=0|C1)=0.3,P(A2=1|C1)=0.7

P(A1=-1|C2)=0.7,P(A1=0|C2)=0.2,P(A1=1|C2)=0.1

P(A2=0|C2)=0.8,P(A2=1|C2)=0.2

根据对朴素贝叶斯分类算法的描述,有了这些概率就相当于拥有了一个可用的分类器,使用这个分类器可以对未知类别的账号进行分类。例如,现在有两个未知类别的账号,其一记为X1,发文频率为0.07,注册信息不完备;其二记为X2,发文频率为0.8,注册信息完备。利用上述分类器可以计算出,对于X1,可得

P(A|C1)P(C1)=P(A1=0|C1)P(A2=0|C1)P(C1)

=0.5×0.3×0.9=0.0135

P(A|C2)P(C2)=P(A1=0|C2)P(A2=0|C2)P(C2)

=0.2×0.8×0.1=0.016

P(A|C1)P(C1)P(A|C2)P(C2)

所以X2是一个真实账号。

在上述案例中,通过简单的划分把连续取值的特征属性A1转换成了离散取值的特征属性。在具体操作中,根据特征属性取值的不同情况,有三种对应的操作方法,分别称为多项式朴素贝叶斯、高斯朴素贝叶斯和伯努利朴素贝叶斯。下面针对这三种不同的方法做一些简单的说明,内在原理不再详细解释,现阶段只需要关注具体的操作方法就可以了。

多项式朴素贝叶斯:特征属性取值为离散值。此时通过训练数据计算P(Ck)和P(A|Ck)时,有可能出现由于训练数据中没有某些类别的数据,从而导致相应的概率为0的情况,这会极大地干扰分类工作的进行。为了克服这种干扰,通常会引入一个大于0的平滑参数λ。并通过

高斯朴素贝叶斯:当特征属性具有连续取值时,除了可以像前面的案例那样把连续取值离散化,还有另一种处理方式,即假设相应的特征属性服从正态分布(又称为高斯分布)。

伯努利朴素贝叶斯:这种模型同样对应到特征属性取值为离散值的情形。但与多项式模型不同的是,在伯努利模型中,该特征的取值只能是0和1。例如,上述案例中信息是否完备这个特征属性的取值即属于此种情况。在伯努利模型中,特征属性取值为0和1时对应的两个条件概率满足

P(A=1|Ck)+P(A=0|Ck)=1

在可以使用贝叶斯分类的第三方的库中,往往会同时有上述三种处理方式供用户选择,可以通过引用相应的函数或者设置相应的参数来方便地实现这三种不同的方法。

相关小说

梦续前世缘 言情 / 完结
梦续前世缘
淘子妹妹
她与他有着七世的夫妻之缘,却在第一世时让红娘错系了红线,月老让她穿越到第一世再续前缘,不巧命运捉弄,他居然是她的杀父仇人,爱与恨,亲与情,她虽然拥有着二十一世界的智慧却也是左右为难,最终将会如何选择?
13.61万字 4 小时前
穿越之缘定紫陵 言情 / 完结
穿越之缘定紫陵
妮团团
她因为一个玩笑似的愿望而莫名的穿越……她不喜欢富贵向往着平凡……她真的能如愿吗……因为是第一次写作,不足之处,请大家多多谅解!同时也希望大家多提宝贵意见!谢谢!
7.08万字 4 小时前
我和校花一起走过 言情 / 完结
我和校花一起走过
缥梦
所谓美人者,以花为镜,以鸟为声,以月为神,以柳为态,以玉为骨,以冰雪为肤,以秋水为姿,以诗词为心。荒诞的开端,惹下一段情缘,却陷入不了的结局。
9.7万字 4 小时前
无限之深渊契约 科幻 / 完结
无限之深渊契约
剑若生
如果,你的生命只剩下几个小时,你将如何面对?林尘,一名普通的宅男,布衣一怒,犯下十几条人命的滔天大案,被追击而来的警察射杀场!濒临死亡之际,一份来自深渊的灵魂契约,让他获得新生,并因为死亡的经历,觉醒了号称"弑神"的直死之魔眼!在恶魔施舍的有限时间内,林尘必须完成一个又一个恶魔颁布的任务,才能获得更多的生存时间!那孤寂的行者……无限的世界.行走在阴影之中,追逐着月影的迹,以手中的短剑,刺破无尽的深渊!这是刺客之王的强势崛起!
100.74万字 3 小时前
极度尸寒 科幻 / 完结
极度尸寒
全雨
一个人总能见到鬼,你猜他活的开心吗? 嗯,来点善意的提醒吧.这本书充斥着暴戾、黑暗、血腥、变态,没有一点正能量,压抑的感觉贯穿全书.这本书不适合普通人看,不适合正常人看,更不适合卫道士和正人君子看.当然,得看到后面才能发现这些问题,只看前面的章节是体会不到的.
79.33万字 3 小时前
位面入侵游戏 科幻 / 完结
位面入侵游戏
悲伤之人的绝唱
知名游戏公司——位面游戏公司开放了一款未知游戏下载,开放时间仅仅只有五个小时,全球下载人数突破十九万人!第二天,游戏开放,十九万游戏玩家陷入了未知世界!惊慌,恐惧之后就是兴奋!这是一款跨越时间与空间的游戏!因为在游戏中所获得的能力,物品都能够在现实世界使用!更重要的是!在游戏中所交好的npc都能跟随玩家进入现实世界!于是,一群高玩为了能够在现实世界装x,在虚拟世界而不得不努力奋斗着!与百尺巨兽一起共舞,与宇宙第一工程师一起巡航,与伽椰子一起度过难忘的七天!"对此,我只想说..我特么只是手贱下载的啊!还有这
97.85万字 3 小时前