职场英语水平测试分析与反思 [摘要]本文从常态性、信度与效度、难度与区分度等方面对上海商务外语职业学院首届职场英语水平测试的质量进行分析,并在此基础上对各题型的设置、分数的分布进行反思,以期编制出更加优质的职场英语水平测试试卷。 [关键词]职场英语测试分析与反思教育部高职英语教学指导委员会发布的《高等职业教育英语课程教学要求》(试行)(2010年6月)明确提出“高职英语课程以培养学生实践应用英语的能力为目标,注重职场环境中语言交际能力的培养,使学生逐步提高用英语进行交流和沟通的能力”。 在教学中,要遵循外语学习规律,结合高职教育特点,开发和构建以基本语言技能为基础,以职场岗位需求为主线,注重培养学生在职场环境下的口语和书面英语交际能力的教学内容体系。因此,我们提出并实施了“三五”教学改革方案,即将大学英语教学分为三个阶段五个学期,即:基础英语阶段(第一年两个学期)、通用职场英语阶段(第二年两个学期)和专业职场英语阶段(第三年第一学期八周)。三个阶段五个学期的教学内容各有侧重,相互渗透。课程考核是课程体系建设的重要内容,为进一步完善公共英语课程体系,在第二年第四学期末设置职场英语水平测试,考查学生的语言水平和教学效果。
职场英语水平测试有两个显著特点:一是侧重考查学生的口语能力。口语测试由“Mini-Talk”和“Short Conversation”两部分组成,通过现场演讲和即兴对话等形式,考查学生的口语表达能力;二是侧重考查职场英语应用能力。笔试不仅涉及基础英语,还包括职场英语内容(如词汇、翻译和应用写作等),更能体现职业教育的特点和就业岗位对求职者英语能力的需求。2012级学生于2014年6月参加了上海科技外国语大学首届职场英语水平测试。本次测试总分为150分,分为笔试(100分)和口试(50分)两部分。口试由班主任一对一进行,并给出评分。笔试是2012级学生第四学期的最后一次统一考试。 测试标准化,结果可信度高,本文拟运用SPSS.19软件对1333个笔试成绩样本进行分析,对职场英语能力测试的试题设置和分数分布提出反思。1.试题分析及主要指标试题分析的第一步是试卷质量分析。根据测量学原理,在对测试成绩进行正态拟合度检验的基础上,从试卷的信度、效度、难度和区分度三个方面获取本次测试的相关信息。1.正态拟合度检验。课程测试的质量首先取决于作为考试工具的试卷是否能反映学生学习的实际水平。
从理论上讲,符合学生试卷水平的考试,其考试成绩应该服从或接近服从正态分布,即大多数学生的成绩中等,少数学生的成绩特别好或特别差。因此,试卷分析首先要考察其考试结果的分布状况。利用SPSS.19软件对1333份笔试样本进行分析后,本次考试成绩的频数分布如图1所示。本次职场英语水平测试笔试部分的平均分为61.4分,标准差为15.7分。通过正态拟合检验发现,本次考试的成绩接近负偏分布(见图1),试卷基本能反映学生的实际情况。2、信度与效度。考试信度是指考试结果的一致性,是考试质量稳定性和可靠性的重要指标。 试卷的信度高,意味着测试结果很少受到随机因素的影响,测试结果与其他同等测试的结果一致,测试结果能真实可靠地反映学生的学业水平。效度是对测试所要测量的内容达到的程度,以及测试是否准确地测量了所要测量的内容的估计。信度较高的测试才有较高的效度,但效度较高并不保证信度较高。可以说,信度和效度之间的关系是片面的,信度差导致效度差,但效度差并不一定意味着信度差。只有信度高的测试结果才能为试卷分析提供有意义的信息。首先用SPSS.19软件计算试题的均值和标准差,然后利用Kude-Richardson公式计算本次测试的信度。

经计算,本次考试的信度系数为0.939,说明本次考试的信度较好,考试结果稳定可靠。3、难度与区分度。试题难度就是试题的难易程度,也是分析试题质量的一个量化指标。试题难度与考试成绩的分布有直接的关系,试题过难,考试成绩就会出现负偏,试题过易,考试成绩就会出现正偏。难度可以作为正确答对试题的人数与参加考试总人数之比的指标职场英语考试成绩查询,也可以采用极端分组法。试卷的难度会对试卷的很多方面的质量产生深远的影响,所以难度一定要适宜。 本次考试分析采用极端分组法对试卷题目的难度进行分析,将所有考生的成绩从高到低排列,将成绩排名前27%的考生划为高分组,将成绩排名后27%的考生划为低分组。试卷区分度是衡量试卷区分成绩好坏学生能力的指标,即试卷在考试中使用时,是否有让水平高的学生得高分、让水平低的学生得低分的倾向。区分度是识别试卷题目的重要依据。在区分度低的考试中,成绩优秀的学生与成绩较差的学生之间的考试成绩差别不大,或没有规律性。可以用一组学生在该试卷上的成绩与该组学生在该试卷上的成绩之间的相关度来表示。 另一种方法是比较两个极端群体通过某道题的比例,即从分布的两端分别选取一个高分群体和一个低分群体,然后将高分群体和低分群体通过每道题的分数以百分比表示,这两个百分比之间的差值就是该道题区分度的一个指标。
计算公式为:D=PH-PL。一般要求题目分数与总分的相关系数达到0.2以上。经极端分组法计算,D≥0.3表示区分度较好;0.3D≥0.15表示区分度较好;D≤0.15表示区分度较差。从本次测试结果分析看,试卷整体具有较好的区分度(见表1)。2、对职场英语水平测试的反思通过以上对试卷质量的分析可知,本次测试的试卷整体具有较好的信度、效度和区分度,测试结果比较真实地反映了学生的学业水平。对于本次测试,笔者有以下几点思考。1、职场英语水平测试的定位。语言测试按其用途至少可分为四类:能力测试、成就测试、潜力测试和诊断性测试。 水平测试考察的是学生的语言能力,不管他们是否学过、学了多少、学了什么,也不考虑学生的文化、教育、年龄等环境因素。例如,“托福”、“雅思考试”等考试都是水平测试。成就测试考察的是学生对所学知识的掌握程度,一般参考一定的教学大纲,甚至会考虑到教学方法,例如课堂测试、期中期末考试、学校毕业考试等都是成就测试。潜能测试用来预测学生学习某种语言的潜能和天赋。诊断性测试用来发现教学和学习中的问题,目的是改进教学、调整教学计划、进行个别指导。职场英语水平测试本质上应该是水平测试,但这次考试定位为第四学期的期末考试。
从本次职场英语水平测试结果分析,二外、商务语法专业的学生成绩较好,机电信息类、艺术类学生成绩不理想。作为期末考试,这对于机电信息类、艺术类学生来说是一场相对较难的考试,直接导致大量学生不及格。绩效测试的性质,一般限制了试题的难度,一般在绩效测试中,试题难度要低一点,因为这种试卷类型是考虑绝大多数学生都能通过,也就是允许通过的原则。那么,如何调节职场英语水平测试与作为绩效测试的期末考试之间的矛盾,就成了我们必须解决的问题。2、题型设置与分数分配。试题类型第一部分为词汇与语法结构,测试学生对基本职场英语词汇(10%)和基本语法结构(30%)的掌握情况; 第二部分为对话完成,考查学生在交际场合中的口语及恰当的回答能力(10%);第三部分为阅读理解题,共三篇职场英语考试成绩查询,主要考查学生的英语阅读能力(20%)。第四、第五部分分别为翻译(15%)和写作(15%),考查学生职场英语的翻译和应用写作能力。从笔试试卷的设置来看,仍以英语基础知识的考查为重点,并未涉及体现职场交际能力的听力任务。从测试内容来看,仍以日常英语为主(60%),与职场英语相关的内容只占(40%)。在未来的试卷编制中,应从全面考查学生职场英语应用能力的角度进行题型设置和分数分配。
结语本文通过对2012年在校学生职场英语水平测试结果的分析,从测试分数分布、测试信度与效度、测试难度与区分度等方面对测试质量进行分析,并在此基础上对各题型的设置及分数分布进行反思,以期在后续职场英语水平测试试卷的编制中加以改进和提升。参考文献:[1]刘润清,韩定成.语言测试及其方法[M].北京:外语教学与研究出版社,2010。[2]孟诗倩等.职业英语水平测试对“就业导向”课程设计的正向推动作用[J].职业空间,2013(7)。[3]钱朝霞.测试分析及其应用[J].海南大学学报(自然科学版),1999(06)。[4]王晓玲.教育统计学[M]。 上海:华东师范大学出版社,2009. [5]吴明龙.SPSS统计应用实践[M].北京:中国铁道出版社,2003. [6]徐晓莉.基于职场工作视角的英语测试设计浅探[J].中国校外教育,2013(3).