杨华利 等 | 人工智能时代的教育测评通用理论框架与实践进路-九游会电竞
诊断改进
开放教育 您现在的位置: 九游会电竞-九游会体育首页 >> 诊断改进 >> 开放教育 >> 正文
杨华利 等 | 人工智能时代的教育测评通用理论框架与实践进路
栏目:开放教育 作者: 来源:  时间:2023-03-12 07:42:32 点击:

杨华利 等 | 人工智能时代的教育测评通用理论框架与实践进路-九游会电竞

【摘要】人工智能技术的发展和深度应用为教育测评的智能化提供了技术支撑。本文结合国内外相关研究探讨教育测评理论的内涵、分类和应用场景,发现测评目标从宏观能力向微观知识转变、测评场景从单次静态向持续动态转变、测评方法从传统概率统计向深度学习转变。智能时代的教育测评需要以传统教育测量理论为指导,实现面向认知过程的时序动态建模分析。因此,本文提出人工智能时代教育测评模型通用性理论框架,包括教育数据分析、教育测评建模、模型参数估计、测评模型评估和创新教学应用等核心步骤,并通过经典模型的对比剖析智能化教育测评模型的内部运转规律。未来智能化测评研究的开展需要探索知识建构、认知发展和综合能力的理论价值,构建基于多维知识空间的认知诊断模型和面向时序数据的认知过程跟踪模型,并从智能化数据采集、智能化建模分析、教师数据素养等方面保证智能化教育测评的实施。

 


【关键词】教育信息化;教育评价;教育新基建;教育测评;项目反应;认知诊断;知识追踪;智能化测评

 

一、

引言

 


教育信息化促进了教育测评理念的变革,人工智能时代的教育更加关注以测评数据驱动的学习者个性化诉求。教育测评是有效教学的内存价值(wiliam, 2011),已成为全球教育系统最突出的先行政策。2016年,science杂志报道了美国国家科学基金会未来发展的六大科研前沿,大数据支持下的高级个性化学习支持(mervis,2016)是前沿之一。期刊studies in educational evaluation于2021年6月推出专题“从数据驱动转向基于数据决策(dbdm)”(mandinach & schildkamp, 2021),研究者们从多个维度探究通过教育测评数据分析辅助教育工作者开展科学决策,推动教育实践的快速发展。中共中央、国务院于2020年印发《深化新时代教育评价改革总体方案》,强调充分利用人工智能、大数据等信息技术提高教育评价的科学性、专业性、客观性,促进人工智能与教育测评的融合发展。2021年7月,教育部等六部门印发《关于推进教育新型基础设施建设构建高质量教育支撑体系的指导意见》,其中重点强调创新信息化评价工具,客观分析学生能力,支撑全过程纵向评价和全要素横向评价,鼓励探索尝试规模化在线考试,促进教育高质量发展。教育测评作为推动智慧教学生态的重要环节,在人工智能技术的影响下已发生巨大变化。智能化技术不仅丰富了数据采集的维度和数量,还记录了学生的过程性成长轨迹,通过全样本、海量测量数据分析可促进教师精准教学和学生个性化学习的高效开展。

 


 

二、

人工智能时代教育测评理论发展背景

 


 

(一)教育测评的概念界定

教育测评(educational assessment)是以现代心理学和教育学为基础,通过科学方法对学习者的认知过程和发展潜力等特征进行客观定量刻画,并对教育现象进行科学价值判断的过程。教育测评由教育测量(measurement)与评价(evaluation)组成,评价是价值判断的最终目标,测量是实现定量描述的手段(范涌峰, 等, 2019)。牛顿(newton, 2007)从教育测评的目标出发定义教育测评的内涵,包括判断目标、决策目标和影响目标三个层次。从流程上看,教育测评分为定量、定性与价值判断三个步骤。桑德格勒等(sondergeld, stone, & kruse, 2020)将教育测评分为常模参照测评和标准参照测评,前者包括轨迹、过渡表、学生增长百分位数和投影四个流行的增长模型,后者包括传统的angoff高风险测试模型和现代更高级些的基于项目反应理论模型。布鲁姆等(bloom, hastings, & madaus, 1971)将教育测评分为学习完成后进行的总结性评价和以学习过程为中心的形成性评价,前者侧重于宏观能力的评价,后者侧重于微观知识的精熟度评价。人工智能时代的教育测评亟须探索教育现象的本质和规律,将教育测评过程中抽象、潜在的属性精准量化,为价值判断与分析提供全面、有效的客观数据。

(二)教育测评理论分类

国内外有很多教育测评理论的分类方式。例如,有学者将其分为标准测验理论和新一代测量理论(mislevy, 1993),前者包括经典教育测评理论、概化理论和项目反应理论。也有学者从传统教育测量(经典教育测评)和现代教育测量理论(项目反应理论)的视角来对比测评项目特征(subali, 2021)。同时,以认知诊断测评为核心的新一代测量理论也已获得研究者们的关注(王立君, 等, 2020),该理论尝试挖掘学习者的内部信息加工过程规律。也有学者将项目反应理论归为认知诊断理论,即特殊的连续型认知诊断模型(wang, et al., 2020)。近年来,伴随智能导学系统(grossman & salas, 2011)的兴起,加之新冠肺炎疫情的爆发,在线学习方式在国内外迅速推广,海量多次持续测评的过程性数据得以获取,由此推动了以“知识追踪”(corbett & anderson, 1994)为代表的智能化测评模型的发展。综上所述,我们发现教育测评可按照“宏观”(分数、能力)和“微观”(知识、技能)来分类,按照此规律我们将教育测评理论分为传统经典教育测量理论、现代测量理论(以项目反应理论为代表)、新一代测量理论(以认知诊断为代表)和人工智能时代的测评理论(以知识追踪为代表)四大类,体现了测评目标从宏观向微观的转变,从单次静态测评到多次动态测评的转变。

(三)教育测评场景剖析

基于布鲁姆对教育测评的总结与过程分类,学者们将教育测评场景分为两大类别,如图1所示。单次规模化测评场景是一种终结性测评,隶属于判断范畴,即通过对某一时刻学习者群体的测评数据建模来判断学习者当前的认知水平,适用于国际大规模测评或者区域教学质量检测等教育情境,代表模型包括经典教育测量模型、项目反应理论和认知诊断模型等。多次持续性测评场景属于形成性测评(wongwatkit, srisawasdi, hwang, & panjaburee, 2017),隶属于决策范畴,在学习过程中通过动态连续跟踪采集学生测评数据来建模,实时了解学生的学习状态,通过“反馈-矫正”不断调整课堂进度与学习者学习的重点,其建模方式以知识追踪模型为代表,能够动态监测知识水平的演变和发展趋势。

 


 

undefined

图1 教育测评场景对比

 


 

三、

教育测评理论的跨越式变迁

 


 

伴随认知心理学和人工智能技术的迭代更新,教育测评理论经历了从传统数学统计向智能计算的跨越式发展。为探索其理论的发展与变迁,本文根据教育测评的分类,选取项目反应理论、认知诊断模型和知识追踪模型三种理论来探讨。经研究发现,三种理论均经历了兴起阶段、发展阶段和智能化崛起阶段。

(一)项目反应理论:面向学习者反应的学习者潜在能力挖掘

针对基于随机抽样的早期教育测量理论“唯分数”的局限性,项目反应理论(item response theory,irt)采用项目特征函数描述单次测评场景或者自适应练习场景(rasch, 1960)。具体来说,irt是根据学习者在项目上的反应和其本身的潜在能力间的关系输出学习者能力值,实现由外在表现到潜在能力的转变(embretson & reise, 2013)。当前在教育领域广泛推广的rasch模型,其本质即为参数irt模型。针对项目反应理论的单维性假设的局限性,查默斯将其扩展至多维项目反应理论mirt(chalmers, 2012),利用多维隐藏能力刻画学生状态(sympson, 1978),它对潜在能力的刻画更为精准。伴随人工智能技术的兴起,dirt模型(cheng, et al., 2019)和tc_mirt模型(su, et al., 2021),结合深度学习技术估计传统项目反应理论中的能力、区分度、困难度等参数,达到挖掘学习者潜在能力的目的,其对学习者能力的表示更为精准,同时兼顾了其模型的可解释性。

(二)认知诊断模型:基于q矩阵的认知水平建模

认知诊断模型(cognitive diagnosis model, cdm)以“微观认知属性”为测评目标(de la torre, et al., 2009),在奥苏伯尔“有意义的接受学习”理论的指导下,通过融入心理学的认知特征,在教学过程中帮助师生挖掘学习中未掌握的技能,纳入已有认知结构,帮助学习者改进(wiliam, 2011)。认知诊断适用于单次测评场景,支持终结性测评或诊断性测评,重在对学习者知识水平进行分析。认知诊断模型对学习者的认知结构进行建模,弥补了传统测量模型在内部认知结构上的不足和irt中笼统的能力值无法判断被试微观层次认知的缺陷。目前,教育心理学中已有多种经典的认知诊断模型,主要包括补偿型与非补偿型两大类。非补偿型认知诊断模型,如采用q矩阵理论的统一模型(dibello, stout, & roussos, 1995),仅涉及“失误”“猜测”两个参数的确定性输入、噪声“与”门模型(dina),其中dina模型由于其参数的简洁性和易解释性受到研究者的青睐。补偿型认知诊断模型,典型的有通用型的g-dina模型(de la torre, 2011)。近几年来,学者们越来越重视利用数据挖掘方法来改善认知诊断效果。比如,通过“模型集理论”分别对主观题和客观题进行建模的模糊认知诊断模型fuzzycdm(liu, et al, 2018);通过对项目反应精度和项目反应速度联合建模的jrt分层模型(zhan, et al, 2017),拓展了多维认知诊断模型的输入信息;特别是neuralcd神经认知诊断(wang, et al., 2020)和rcd关系认知诊断(gao, et al., 2021),通过神经网络自动训练与诊断函数结合,实现知识技能精准诊断的目标,代表着认知诊断实现智能化跃迁。

(三)知识追踪模型:基于领域知识的时间序列建模

伴随its在线学习的兴起,知识追踪(knowledge tracing,kt)受到空前的关注。kt模型不再局限于对单次测评场景的研究,而是适用于学习者多次持续测评场景,实现对学习者学习历程的分析。贝叶斯知识追踪(bayesian knowledge tracing,bkt)是基于概率的典型代表,将知识状态抽象为一组二元变量,以学生的实时交互作为输入,通过隐马尔科夫模型来模拟学习者学习过程中对知识掌握情况的变化(yudelson, koedinger, & gordon, 2013)。bkt模型有许多变体,如融合猜测和失误因素、时间因素(goldberg & wang, 1991)和问题难度估计(gan, et al., 2019)等,此类模型具备较好的可解释性。然而,随着深度学习技术的进步,学者们更加关注深度知识追踪(deep knowledge tracing,dkt)。dkt将循环神经网络引入知识追踪,其表现效果明显优于概率模型(piech, et al., 2015)。近几年来,国际上知识追踪的论文呈现爆发式增长趋势,其改进主要集中在技术改进与多特征融合改进两个方面:在技术改进方面,如基于记忆增强神经网络的动态键值存储网络(dkvmn)模型(zhang, shi, king, & yeung, 2017)、基于卷积神经网络的ckt模型(yang, zhu, hou, & lu, 2020)和基于图神经网络的gkt模型(nakagawa, iwasawa, & matsuo, 2019)等;在多特征融合改进方面,体现在遗忘特征、项目内容特征和学生能力特征等,如融入三种遗忘特征的dkt f模型(nagatani, et al., 2019)、考虑项目文本与知识并解决了冷启动问题的ekt模型(liu, et al., 2019)和cf-dkd引入学习与遗忘特征建模(huang, et al., 2021)等。深度知识追踪系列方法的表现效果明显优于传统概率模型,但其训练过程类似黑盒,可解释性较差;基于教育心理学特征的模型则改善了深度学习模型的可解释性,但结果仍存在一定的波动与不稳定性。

如图2所示:在兴起阶段,基于概率与统计学方法对测评数据建模,从一定程度上解决了教育测评诊断学习者能力水平、知识水平与认知水平(embretson, et al., 2013; de la torre, 2009; yudelson, et al., 2013)的问题;在发展阶段,利用数据挖掘与传统统计学方法联合建模,使其诊断精准性得到一定的提升(chalmers, 2012; de la torre, 2011; zhan, et al., 2017);在崛起阶段,将深度学习等智能化技术引入教育数据挖掘与分析领域,不论是传统概率统计模型,还是基于深度学习模型,其效果预测表现效果得到显著提升(piech, et al., 2015),体现了人工智能技术对教育测评的深刻影响。智能时代的教育测评实现了从“经典分数论”向“能力论”转变,从“结果性测评”向“过程性测量”转变,从“静态单维诊断”向“动态多维追踪”的转变,以及从“经验主义”“数据驱动”向人工智能时代“数据决策”的精准测量的转变。

 


 

undefined

图2 教育测评理论跨越式变迁

 


 

四、

人工智能时代教育测评框架和实现路径分析

 


 

教育测评模型的本质是通过学习者对项目的作答反应构建教育测评模型,并对学习者的认知状态进行追踪与测评。具体来说,模型通过分析可观测变量与不可观测变量的关系建立目标函数或挖掘潜在关联,对隐性变量进行参数估计,最终输出测评结果并应用于教育场景。智能化教育测评旨在应用人工智能技术,在提高测评精确度的同时更好地模拟不可观测变量的运行机制。结合教育数据挖掘流程、学习分析技术在教育中的应用框架,本文在剖析多种教育测评模型的实施路径基础上提出人工智能时代教育测评模型通用性理论框架,如图3所示。通用性理论框架包括教育数据分析、教育测评建模、模型参数估计、测评模型评估和创新教学应用等环节,通过对教育测评数据进行建模精准诊断学习者当前认知水平,挖掘认知变化内在的规律,通过应用实践助力于教育教学模式的创新。

 


 

undefined

图3 教育测评模型通用性理论框架

 


 

基于以上教育测评理论框架,我们在每个阶段选取1~2个具有代表性的教育测评模型进行对比分析,研究各大经典测评模型的内涵与动作机理,剖析其模型函数的实施流程,探索其模型在人工智能时代的发展、应用以及存在的问题。

(一)教育测评数据分析

构建智能化教育测评模型需要对测评场景数据进行量化分析,从数据分析中挖掘出隐藏的显性变量与隐性变量。表1为经典测评模型数据采集特征与变量对比。

 


 

表1 代表模型的变量分析

undefined

 


 

1. 教育测评数据集。基于两种教育测评场景,我们将数据集分为两类:①针对单次测评场景的固定项目的数据集,包括考试数据、国内外大规模测评数据和模拟数据等,常用于基于概率的项目反应与认知诊断模型,如国际知名的五项目sat12数据集(chalmers, 2012)和pisa2012数据集(zhan, jiao, & liao, 2018)等;②针对多次连续测评时序数据集,呈现“项目数不固定、时间不固定”规律,适用于智能阶段测评模型,如assistments/ednet/kdd等公开数据集、我国智学网数据集(liu, et al., 2019)以及eanalyst数据集(huang, et al., 2021)等。

2. 可观测变量标准制定。根据测试主客体,可观测变量按学生与项目划分(huang, et al., 2020)。在项目属性中,除了项目基础信息以外,项目所考核的知识点也是关注的焦点。总体来说,认知诊断模型采用q矩阵表示关联的多个知识点,知识追踪要么假设项目只有一个知识点,要么采用“记忆模块”或神经网络来表示多个隐性知识点。学生属性包括学生与项目交互的学生反应特征(学生在参与测评过程中正确或错误回答项目)和学生行为特征(学生答题的反应时间和时间间隔等),学生行为特征对学习者的反应速度或记忆有影响。

3. 不可观测隐性变量设计。测量模型中涉及的不可观测的隐性参数有项目难度þ、区分度α、能力θ、猜测сorg和失误s等。前四者常见于项目反应理论,后两者常见于认知诊断模型。知识追踪模型采用神经网络的隐藏单元来表示隐性知识点状态,通过神经网络反向传播来调整参数。

(二)智能化测评模型分析

根据现有测评数据特征,如何利用智能化技术来构建智能化测评模型以实现教育过程性大数据的精准化诊断是智能化测评模型的核心。

1. 技术催生智能化项目反应理论

智能化项目反应理论遵循传统项目反应理论原理,以“学生的反应矩阵”为模型输入,以学习者能力为中心建模,以此预测学习者在未来项目上的表现。tc_mirt(su, et al., 2021)是智能化项目反应模型的代表,其原理仍是基于项目反应理论及其扩展的多维项目反应理论。其中,项目反应理论主函数如公式所示:


 


 

多维项目反应是基于被试多种能力之间相互作用的关系输出多维连续的能力值,将学习者的能力多维化,让学习者能力描述更加细化与精准,但由于多维能力的引入其计算参数按倍数增加,影响其参数估计的速度。tc_mirt则通过长短时记忆网络与卷积神经网络等深度学习方法估计多维项目反应函数所需的参数,通过预测学习者反应的正确性来反向调节神经网络参数。相比于原始项目反应理论,其能力评价更多维化,计算速度更快;相比于多维项目反应模型,突破了其参数量大、估计速度慢的困境。

2. 技术驱动智能化认知诊断

人工智能时代的认知诊断,除了注重基于教育现象的深层教育规律分析以外,还利用先进的深度学习等智能化技术对不同教育测评中的变量建模,利用智能技术优越的表现性来提高认知诊断的精准性。关系认知诊断rcd是智能技术与认知诊断相结合的典型代表,其原理遵循传统认知诊断模型,以微观知识技能为核心,通过认知诊断函数获取学习者当前认知状态。传统经典认知诊断模型dina主函数公式如下:


 


 

dina模型将学习者知识状态假设为掌握与未掌握二元向量,将学习者正确答题情况分为两种:学习者掌握了知识但答错(失误𝒔)和学习者未掌握知识而答对(猜测g),输出学习者掌握模式α𝑖。发展阶段fuzzycdm融合项目反应理论与认知诊断理论,构建多层认知诊断框架,同时用“模糊集理论”建模联结型客观题和补偿型主观题,实现更精准的学习者知识状态表征。鉴于前两种模型存在依赖完备的q矩阵问题,很难在真实的教育测评场景中实施与应用,因此智能时代的rcd(gao, et al., 2021)继承了认知诊断思想与项目反应理论的优点,利用多级注意力网络实现学习者、试题与概念三层关系图的信息聚合,避开q矩阵完备性难题,并采用认知诊断函数输出学习者认知状态,实现认知诊断对学习者认知状态的精准诊断,更适用于认知诊断模型在教育领域的实施与落地。

3. 技术赋能知识追踪方式变革

人工智能技术加速了深度知识追踪方式的变革,不论是采用新型深度学习技术,还是融入认知心理学特征,其本质仍以认知过程时序数据处理为核心,以预测学习者未来知识表现为目标,来探究学习者的认知演变机理。智能化的知识追踪遵循传统贝叶斯知识追踪基本原理,以学习者知识状态为隐藏状态,通过深度神经网络的隐藏层跟踪学习者的知识掌握状态的演化。基于学习与遗忘的动态认知诊断模型cf-dkd(huang, et al., 2021),是基于我国多次连续测评场景,能够体现学习者认知过程的学习与遗忘规律的记忆神经网络,通过学习者的每次答题动态更新学习者的知识状态和认知过程,以此增强时序神经网络对知识的跟踪,实现对学习者未来表现更精准的预测。

(三)参数估计方法

兴起与发展阶段的测评模型均基于概率统计方法,其参数估计方法采用最大期望em算法(dempster, laird, & rubin, 1977)和马尔可夫链蒙特卡罗mcmc算法(liu, et al., 2018)。智能化阶段通过深度学习模型的反向传播来更新神经网络参数,使目标损失函数达到最小值。三种参数估计方法如图4所示。

 


 

undefined

图4 三种主流参数估计方法对比

 


 

em算法隶属迭代优化方法,适用于数据缺失情况,对初始值较为敏感(de la torre, 2011)。mcmc算法是在概率空间中通过随机采样来估算参数的后验分布,具有良好的可扩展性,针对多参数的模型仍具有良好的效果,弥补了em算法缺陷。然而,智能化测评模型中的参数估计采用反向传播计算,重点解决迭代过程中的梯度问题(werbos, 1974),通过“前向传递输入”“反向传递误差”,误差由输出层反向传播,将误差分配给各层来修正各层权重,解决了隐层传播中权重值计算问题,在深度学习领域广泛使用。

(四)测评模型评估

鉴于项目反应与认知诊断理论中输出的学习者能力与知识掌握状态均为不可观测值,教育测评模型采用可观测的学习者表现来评估模型(wang, et al., 2020; gao, et al., 2021; huang, et al., 2021)。从各模型实验结果的对比分析中,我们发现当前主流的智能化模型评估主要从“精确度”来评估模型,包括分类(roc曲线下的面积auc指标和准确性acc)和回归(均方误差mse、均方根误差rmse)两个角度。发展阶段的测评模型在预测精确度方面优于兴起阶段的测评模型,而崛起阶段加入深度神经网络的智能化测评模型的预测精确度明显优于传统模型,证明了其预测结果具有较好的效度。基于教育和心理测量学理论,良好的测评模型需对其信效度进行系统检测(骆方, 等, 2021),然而,当前智能化测评模型对测评模型的区分度(将所测认知与其他区分开)、信度(预测结果的可靠性)和公平性(对不同群体的偏差)等方面的评估较为缺乏。

(五)测评分析结果的教育应用实践

根据教育测评模型输出的知识技能状态、能力等学习者认知水平信息,我们可将其应用在教育领域危机预警、资源推荐和路径规划等方面。第一,通过测评模型对学生的认知水平动态追踪,科学构建学习仪表盘,可实现危机学生早期预警。比如,阿吉拉尔开发的基于仪表盘的早期预警系统(aguilar, karabenick, teasley, & baek, 2021)在美国中西部某公立大学201名学生中展开实证研究,证明预警系统对学生学习动机和自我调节产生了重要影响。第二,通过对学习者认知状态的量化分析,可实现向学习者自适应推荐试题,采用最少的试题达到测评认知水平的目标。比如,基于irt实时计算学习者能力水平设计实现的试题提示的自适应推荐的脚手架系统(ueno & miyazawa, 2017),在某大学93名学生中开展实验,证明了系统的有效性与有用性,同时还探索了其最佳推荐的能力阈值。第三,根据认知水平的测评结果,可以为学习者自动规划学习路径(shou, et al., 2020)。比如,通过认知诊断工具,利用k-means聚类分析方法来构建学习者的学习路径(wu, wu, zhang, arthur, & chang, 2021),在timss 2015数学测试中抽取726名学习者进行验证,有效构建了学习者的个性化学习进程,促进个性化学习。

 


 

五、

人工智能时代教育测评发展趋势

 


 

(一)探索人工智能时代教育测评理论的价值内涵

基于传统教育测量与心理学理论,通过对经典教育测量理论、现代教育测量理论和新一代教育测量理论的深度剖析,结合学习者认知加工过程的客观规律,人工智能时代的教育测评应着重利用智能化技术挖掘学习者在“知识建构、认知发展和综合能力”方面的理论价值,如图5所示。基于美国能力本位理论(程新奎, 等, 2021),剖析“知识-认知-能力”内部认知机理,探索由知识“现象”到认知“本质”的学习者认知结构诊断,由“局部”知识到“整体”能力的学习者综合能力测评,以及由能力“结果”到认知“过程”的学习者认知过程剖析。以此来探索传统教育测评理论在人工智能时代的价值底蕴,实现“为学习而测评”的目标,为新时代的教育测评研究的开展提供理论指导。

 


 

undefined

图5 教育测评认知理论框架

 


 

(二)基于多维知识空间的认知诊断

智能化教育测评模型,将依托学科领域知识图谱,结合记忆、语言、实践等丰富的内部认知刻画机理(massa, et al., 2015),将知识图谱扩展到多维知识空间,融合项目、知识和学生等多维认知特征,强化知识、项目、学生两两之间的多对多复杂关联(corbett, et al., 1994),全面剖析学习者认知结构本质属性。基于学科多维知识空间,学习者每次的答题均会生成一个独立的子空间,借助图神经网络算法来聚合当前知识空间中的邻居节点信息(图谱中先备、后继和关联关系)(黄涛, 等, 2015),实现当前知识点更全面的表征。针对单次规模化测评数据,可借助认知诊断函数获取学习者的当前知识状态(gao, et al., 2021);针对多次连续型测评数据,伴随时间的演变,借助时序神经网络来更新当前空间节点的状态(nakagawa, iwasawa, & matsuo, 2019)。最终获取当前知识空间维度学习者的认知结构与认知状态,形成预警机制,帮助教师和学习者进行合理干预。因此,人工智能时代的认知诊断是在保留其可解释性优势的前提下,探索多种深度学习技术来改善其认知诊断的效果。

(三)面向时序数据的认知过程建模

当前主流教育测量模型大多基于单次测试结果数据对学习者知识水平进行静态评估,各阶段测评结果相对独立,仅实现对学习者当前知识水平的结果性评价,因此需重视学习者测评过程中认知结构随时间的变化过程(张生, 等, 2021)以及知识技能水平不断提升的规律。通过对以“时间序列分析”为核心的知识追踪模型发展史的深度对比分析,我们发现现有模型能够深度挖掘学习者知识状态在长周期时间序列上的演变规律。但由于学习者所掌握的知识会因遗忘和记忆因素而发生变化(huang, et al., 2020),学生在学习过程中的知识内化与长期依赖的知识关联还需要深度挖掘。因此,人工智能时代的教育测评模型需充分利用时间序列上的动态知识诊断方法对学习者长周期测量数据进行关联建模,结合学习者对知识技能的潜在学习与遗忘规律,全方位持续监测随着时间演化的知识技能发展状况,客观刻画学习者深层次的知识建构和认知发展水平,提升时间序列模型在教育认知领域的可解释性。

 


 

六、

结论与建议

 


 

智能化技术推动测评范式变革,教育测评经历了从传统概率统计向人工智能技术的跨越式变迁。智能时代的测评以“为了改进而测评”为核心理念,深度剖析学习者“知识-认知-能力”的内部认知机理,为长周期时序数据构建智能化测评模型,实现学习者全息认知刻画,促进教育高质量发展。目前,国外智能化测评的研究和实施主要集中在在线自适应学习场景,而国内基础教育由于测评数据获取困难、分析结果难以及时反馈等问题应用并不广泛。根据智能化测评的实施现状,本研究提出如下几点建议:

1. 探索智能化感知技术,支撑多场景测评数据的伴随式采集

基于数据挖掘与深度学习等技术的智能化测评模型需要依赖一定规模的数据集,以提高模型的精确性。然而,由于教育数据采集时存在增加教师负担、纸笔测试难以数字化、数字安全与隐私等问题,教育数据获取面临困难。各地方教育局应积极探索“产学研”合作,借助产业界先进的智能化感知技术,汇聚线上线下相结合的多空间、多场域的持续性测评数据,覆盖学习过程中的行为、心理与生理多模态数据,为形成性测评和诊断性测评等教育测评建模提供精准的特征表示(顾小清, 等, 2021)。通过多元测评数据的伴随式无感汇聚,在不增加师生负担的前提下提高数据获取的便利性,从根本上解决教育数据获取的困难,为教育测评提供海量数据支撑。

2. 增强教育场景建模,加快智能化测评模型的落地实施

鉴于智能化测评评估以精准度为主,无法保证信度与公平(骆方, 等, 2021),故当前绝大部分测评模型只是应用于在线自主学习场景。而且在国内主流纸笔测评场景中,由于行为特征少、数据稀疏等问题,不满足智能化测评的实施条件,以致智能测评模型在我国真实的教育场景中仍难以实施。针对形成性与诊断性测评等单次纸笔测评场景,借助智能化技术从规模化学习者测评过程数据中挖掘学习者的认知结构缺陷,提高其实验的信效度。针对多次测评场景,在汇聚的海量过程性数据基础上,通过对学习者的学习过程与遗忘过程建模,实现学习历程跟踪与监测,发现学习者的波动趋势,形成可靠的预警机制。同时,设计适应于智能化技术的新型测验效度检测方法,在保证认知水平诊断准确性的同时提高实验的实用性与可靠性,以此加快智能化测评模型在教育领域的落地实施。

3. 提高教师数据素养,促进测评数据驱动的精准化教学

随着教育大数据学情分析系统的推广与应用,学科知识与能力的伴随式诊断已成为教育界的热点。然而面对已有的学情分析数据,可能因为教师能力或时间有限的问题,只有少部分教师将学情分析数据用于指导课堂精准化教学。教师应该坚持“数据驱动决策”的核心理念,提高自身信息化教学能力与数据素养(冯晓英, 等, 2021)。加强数据素养在学科教学中的应用培训可从四个方面来展开(张进良, 等, 2021):首先,提高教师对数据的意识,积极探索数据间的关联;其次,加强对数据的定位,确保能迅速定位至关键的数据分析;再次,提高数据分析与解读能力,能从数据中获取有用的信息来指导教学;最后,通过基于数据的反思,进行科学的决策,指导教学活动的设计与实施。最终实现以学习者学情为中心的个性化教学,促进精准化教学的有效实施,提高教育教学质量。

 

 

网站地图