正在阅读《第八节 海明距离判别法:一种非参数认知诊断评价方法》
第(2/2)页


第二,判别过程的合理性。由于观察反应模式与理想反应模式对应位置的元素间的海明距离均为非0即1的整数,很有可能会出现某个被试的观察反应模式与多个理想反应模式间的海明距离相同且均为最小值的情况,参考孙佳楠等人的判别规则,此时就无法按照海明距离最短准则对被试进行判别。因此,必须采取某种辅助判别方式对符合此种情况的被试进行处理。根据辅助判别方式的不同,本方法可分为R方法(随机方法)和B方法(Bayes方法)两种。R方法是指从多个最小距离对应的理想反应模式中随机(random)选取一种,再将其对应的理想掌握模式作为被试的属性掌握模式判别值。由于这些“特殊的”理想反应模式是在剔除了大部分与被试的观察反应模式相似度低的其他理想反应模式后挑选出来的,在没有其他任何可辅助判别的信息的情况下,我们有理由认为该被试的属性掌握模式恰好与这些“特殊的”理想反应模式中任意一种所对应的理想掌握模式的概率均等,故使用随机选取的方式对其进行处理是合理的。B方法参考了规则空间方法(R**)中的判别方法,对存在多个最小距离的情况使用B方法,合理地利用当前测验情境所提供的信息来辅助对被试属性掌握模式进行判别分类,这样能够尽量地减少误判的情况,提高认知诊断结果的分类准确率。

四、应用海明距离判别法进行认知诊断分类

应用海明距离判别法进行认知诊断分类有两大步骤。

第一步,计算被试i的观察反应模式与每种理想反应模式之间的海明距离,并按距离最短原则对被试进行判别分类。

经过第一步,被试很可能会被分为两类:第一类被试能够找到与其观察反应模式的海明距离最小的理想反应模式,且该理想反应模式是唯一确定的;第二类被试虽然也能找到与其观察反应模式的海明距离最小的理想反应模式,但找出的理想反应模式并不是唯一的。其中,第一类被试通过第一步分析即可完成诊断分类,进而确定被试的属性掌握模式,而第二类被试则需要继续进行下面第二步的分析工作。第二步,运用R方法或B方法辅助进行判别分类,即采用R方法或B方法中的一种,以实现分类的目标。R方法简单易懂,不再赘述。下面重点介绍如何使用B方法对被试进行判别分类。

不难发现,第一类被试的判别分类结果实质上提供了关于此次测验情境中的各种理想反应模式的分布信息,能够较好地体现当前被试群体的能力分布特点,这些已有的信息将有助于对第二类被试的分类判别。例如,当被试i的观察反应模式同时与理想反应模式I1和I2的海明距离最小时,若第一类被试中I2的判别人数更多,则有理由认为被试的属性掌握模式是I2所对应的理想掌握模式的概率更大。故利用第一类被试的判别结果计算每种理想反应模式的后验概率,计算方法如下:

其中,N为当前被试群体的总人数,n为在这N个被试中属性掌握模式为第t种理想反应模式对应的理想掌握模式的被试人数。考虑到实际测验情境,被试样本的能力分布的不规则性,使得当前被试群体中属性掌握模式为第t种理想反应模式对应的理想掌握模式的被试人数可能为0,即Pt=0,对于此种情形,可以分为下面两种情况并进行相应的处理。

①与被试i的观察反应模式的海明距离相同且均为最小值的多个理想反应模式中,部分理想反应模式的Pt=0,此时仍可使用B方法。

②与被试i的观察反应模式的海明距离相同且均为最小值的多个理想反应模式的Pt均为0,则使用R方法对被试进行判别分类。

有研究者(DiBello,Stout,2007)认为,模型的参数应该足够复杂,以便提供尽可能多的诊断信息,但是在拟合数据的情况下,模型的参数也应该足够简单,以满足实践者的需求。因此,当两种认知诊断评价方法具有同等水平的分类准确性时,更加简单易用的认知诊断评价方法显然更佳,DINA模型就是其中的典型代表。与现有的认知诊断评价方法相比,这里所介绍的HDD方法在具有较高的分类准确率的同时,并没有引入额外的参数,具有零参数的特点,不需要进行参数估计。因此,可以避免由模型参数拟合及估计方法的误差而导致分类准确率下降的不良后果。与此同时,不需要理解模型参数特点及进行参数估计也使HDD方法的具体使用步骤非常简单。理论上,只要获取被试的实际作答反应数据,进行简单的加减运算即可对被试进行诊断分类。运用HDD方法还可以大大降低中小学一线教师理解和实施认知诊断评价的难度,有助于认知诊断测验的推广和应用。但零参数的特点有利也有弊,弊在于HDD方法无法同其他认知诊断方法一样获得项目参数,也就无法实现对项目性能的量化描述。因此,在1、0计分的认知诊断测验中,当需要获取项目参数时,可考虑使用其他认知诊断方法。另外,该方法的应用有效性还需要在更多的实测数据支持下进行进一步的验证。

HDD方法中的B方法的分类准确率相对于R方法而言更高,但B方法对于样本容量较为敏感。当后验概率不准确时,B方法的分类准确率必然会受到影响,R方法便适用于此种情况。故建议在实施认知诊断评价时,当被试量较小时,可以使用R方法;当被试量较大时,则改用B方法可以得到更好的分类效果。

本章小结

在有了测验属性定义和测试样本数据后,通过合适的统计分析方法,就可以推断被试对测验属性的掌握状态,从而做出诊断性评价。统计分析方法可以描述和揭示被试特质水平、题目特性、题目属性与作答结果之间的逻辑关系。对这几者逻辑关系认识不同,就会产生不同的统计分析方法。即使对其逻辑关系认识相近,也可能会产生不同的实现路径。对分析方法本身复杂度的认识同样也会影响方法的建构模式。

实现认知诊断评价的方法或模型非常多,超过100个,每个方法或模型都有它的优势和不足。为此,我们提出选择某种合适的方法或模型的一些建议。首先,既简单又有效是模型或方法选择的最佳标准。有效是评价的目标,简单包括参数和实现过程的简化。许多方法或模型宣称具有更好的拟合度或精确性,如果根据其分析结果,这种改进只是在已经非常好的结果的基础上进行的微小改进,那么这类新模型的价值就不大,除非其显得更加简单。其次,适应性更强的模型是更好的选择。有些模型具有更好的拓广性,适用于更多的数据情境,甚至可以将许多模型作为其特例,那么这类模型就具有更强的应用价值。

参数化分析方法、半参数化分析方法和完全非参数化分析方法能够从不同的路径实现认知诊断评价的目标,并且有各自的优势和不足。

思考题

1.在认知诊断评价工作中,如何选择一个合理的认知诊断模型?

2.分析各类认知诊断模型在应用中的优势和劣势。

相关小说

你们练武我修仙,从小太监到九千岁 历史 / 完结
你们练武我修仙,从小太监到九千岁
爱吃鱼的瞄
天下九州,诸国林立。仙秦、神汉、圣唐、道宋、蛮元、武明、妖清。而李怀玉,穿越成了武明的一个小太监。真太监!莫名其妙被净了身,莫名其妙获得了魔道系统。在这个强者林立的修仙世界,李怀玉一个炼气期的小废物,决定苟住发育,安稳度日的时候。却忽然得知,这个世界...
51.45万字 7 小时前
精灵:叫你高考,你掏出个修改器? 玄幻 / 完结
精灵:叫你高考,你掏出个修改器?
阿罐想赚钱
云晓穿越平行世界,发现这里居然是人与精灵和谐共生的时代,训练家成为最受尊敬的职业,无数秘境等待人们前去探索,无数机缘等待着人们去发掘。同龄人都在备战精灵高考时,他却觉醒了神级修改器!只要满足一定的条件,云晓就能直接修改精灵的特性、种族值、乃至于进化路线!【叮!精灵“懒人翁”特性已完成修改,目前特性:大力士!】【叮!
190.89万字 5 小时前
皇家喜事:本宫要退位 穿越 / 完结
皇家喜事:本宫要退位
一念问君安
云凤潋,一个艳冠影视圈的血性狐狸精,咸猪手她回旋打脸,造绯闻她当面泼酒,抢她的男人同归于尽!丢了小命穿越,她学乖了。能曲能伸,能萌能怂,走扮猪吃老虎路线,但是这个容少卿是怎么回事?她飙戏装傻,他无动于衷无情截胡,她暗度陈仓声东击西,他准确揭穿凶狠反扑...
195.81万字 5 小时前
进化之眼 玄幻 / 完结
进化之眼
亚舍罗
出门一把刀,装备全靠爆!网文写手白小文,被一颗神奇眼球带到了百年之后的灵能时代。灵子渗透,变异兽肆虐,灵界怪物入侵,数据化的地球如同一个超大型游戏!我来了,我看见,我征服!白小文睁开神眼吼出强者语,然而距离高考只有130天。征服灵能时代,从成为高考状元开始。***进化之眼全订群:603,765,346(进群请报起点
458.23万字 3 小时前
花式快穿多样男主我来了 都市 / 完结
花式快穿多样男主我来了
风乐
学霸型的厉如雪因为长相欠缺,遭受到各种不公待遇。就在她愤愤不平的时候,快穿系统找上她,为了从此走上美貌与智慧并存的人生巅峰,厉如雪毫不犹豫的签订契约。只是,她万万没想到的是,别人家的系统安排的任务不是白富美,就是高大上,可为啥她家的系统让她变成鱼?而...
83.89万字 4 小时前
重生之望族嫡女 网游 / 完结
重生之望族嫡女
看海的羽儿
前世抄家流放,今生本小姐要逆转命运,守护家人,抢夺良缘,是我的谁也别想拿走,不是我的抢也要抢回来。
114.84万字 3 小时前