正在阅读《第一节 几个基础概念》
第(1/2)页


一、极大似然估计

关于极大似然估计,我们可以先看一个例子:

某位同学与一位猎人一起外出打猎时,一只野兔从前方窜过。只听一声枪响,野兔应声倒下,如果让你推测,这一发命中的子弹是谁打的,你就会想,只发一枪便打中,由于猎人命中的概率一般大于这位同学命中的概率,看来这一枪是猎人打的。

在上述例子中,关于结果所做的推断(执果寻因)就体现了极大似然估计的基本思想。

我们以DINA模型为例,通过估计其项目参数来讲解极大似然估计的原理和过程。

若我们已获得所有被试在测验第i题上的作答得分向量(x1,x2,x3,…,xn),以及所有被试的属性掌握模式αj(j=1,2,…,n),该题的属性向量为qi。我们的目标是估计未知的项目参数βiη。

因此,求项目参数βiη的估计值的问题,就变成了求似然函数L(βiη)的最大值的问题。而求函数极大值的问题,只要导函数存在,一般就会转化为求函数对未知参数的一阶导并令其为0的方程根的问题。所以,求上面这个似然函数极值的问题可通过解下面这个方程:

来解决。解这个方程得到的βiη值,就是项目参数的合理估计值。

似然函数式(7-2)为概率的连乘积,如果对该似然函数式取对数,则可以转换为概率连加和的形式,这将大大简化计算过程。而且,因为lnL是L的增函数,所以,lnL与L会在相同位置取得最大值。我们称l(βiη)=lnL(βiη)为对数似然函数(log-likelihoodfunction)。因此,我们常将方程(7-3)写成:

方程(7-4)称为对数似然方程。解方程(7-4)或(7-3)得到的值,就是项目参数的极大似然估计值。

总结求极大似然估计值的一般步骤如下:

①导出样本结果的联合概率函数(或联合密度);

②把样本联合概率函数(或联合密度)中因变量看作已知常数,而把未知参数看作自变量,得到似然函数;

③求似然函数的极大值点(常转化为求对数似然函数的极大值点);

④在极大值点的表达式中,将样本值代入就得到参数的极大似然估计值。

二、牛顿-拉夫逊迭代

解似然方程的过程经常会用到迭代算法。运用最多的迭代算法就是牛顿-拉夫逊迭代方法。牛顿-拉夫逊迭代方法是在解牛顿迭代式基础上进行的。设r是f(x)=0的真实根,但这个根有时候很难或无法通过直接解方程的方法求出来,于是我们会采用迭代算法,以得到r的一个近似估计值。迭代的过程如下:首先,选取x0作为r的初始近似值;然后,过点[x0,f(x0)]做曲线y=f(x)的切线L,可以知道L的方程为y=f(x0)+f′(x0)(x-x0),于是,可以求出切线L与轴交点的横坐标x1=x0-f(x0)/f′(x0),称x1为r的一次迭代近似值。接着,过点[x1,f(x1)]再次做曲线y=f(x)的切线,并求该切线与x轴交点的横坐标x2=x1-f(x1)/f′(x1),称x2为r的二次迭代近似值。重复以上过程,就可以得到r的一个近似值序列(x1,x2,…,xn,xn+1),其中,

称为r的第n+1次迭代近似值,式(7-5)亦称为牛顿迭代式,而式(7-6),

也就成为迭代过程中估计值的校正公式。当然,迭代过程不可能无休止地进行下去,必须设定一个中止规则。常用的中止规则就是,当相邻的两个迭代近似值之间的差异小于某个足够小的预先设定值,如0.01时,中止迭代过程,也就是迭代校正公式中ε<0.01,以最新的迭代近似值作为方程f(x)=0的根r的一个近似估计值。我们可以将以上迭代算法的过程通过几何图形的形式加以直观解释,如图7-1所示。

图7-1 牛顿迭代过程图

相关小说

疯骨失控 都市 / 完结
疯骨失控
今上
【表面冷漠内里疯批的霸总vs清冷倔强美人,上位者低头、强取豪夺、火葬场、久别重逢】没人知道,显赫的周家继承人,曾是个不懂世事的傻子。而姜稚是周家聘请来照顾他的生活助理。他们之间有过一段病态又畸形的地下恋。他痊愈后,视她为污点,厌她、弃她。姜稚黯然离去,...
23.4万字 18 天前
重生之悠然幸福 都市 / 完结
重生之悠然幸福
银月白歌
孟悠然今年26岁了,有稳定的工作,交往多年的男朋友,在外人看来没什么烦恼整天没心没肺的很开心似的,其实她一直不能释怀父亲当年抛弃他们母女让她变成单亲家庭的孩子,重生在五岁那年,一切回到最初这一次就算不是为了自己也要让那些曾经嘲笑她们母女,那些在上一世害得她们经...
219.44万字 18 天前
脚踹继子!拳打丫鬟!娇娇主母守寡后杀疯了 都市 / 完结
脚踹继子!拳打丫鬟!娇娇主母守寡后杀疯了
陈果
【侯门主母+宅斗+喜当男主继母】问:穿进男频种马文成了男主的白月光继母是什么感觉?江稚鱼:谢邀。就挺恶心,想给他一耳光,然后将他踹的远远的。可惜不行,就很想摆烂。然鹅,原身早死的命运悬在头顶,江稚鱼不得不奋起努力,蚂蚁搬家似的一点点改变剧情。哪知道剧情...
49.73万字 18 天前
借腹 都市 / 完结
借腹
清心晓筑
借腹小说是作者清心晓筑的作品,情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的现言小说
66.72万字 18 天前
京烟龙女 都市 / 完结
京烟龙女
江船露白
【本文已完结】十八年前,九星连珠,大星陨落,京烟之野,龙女降世。十八年后,采莲少女,天真活泼,一名受伤男子,突然闯入她的世界。京烟异象,白池风云涌动。血剑敖苏,黑笛白夜,煞气出,念力腾。我于这世间坦坦荡荡,逍遥自在,何顾他正邪不两立,尊卑人有别!
36.44万字 18 天前
将军在上我携空间来种田 都市 / 完结
将军在上我携空间来种田
宁子小小
披荆斩棘三十年,一穿回到解放前,流落穷乡僻壤,不仅嫁给个糙男人,还顺带多了俩个好大儿。为了在饥荒灾年填饱肚子,苏兰月治病救人赚银子,乐呵种田养崽崽,无视那个沉默寡言的男人……直到月圆之夜,陆明魏猩红着眼睛无助哀嚎,她一把将男人的头摁进怀里,一手掏出银...
49.26万字 18 天前