随便写点关键词就能拿满分，当学生发现是被AI打分时，他们如何作弊？

随便写点关键词就能拿满分，当学生发现是被AI打分时，他们如何作弊？

2024-11-10 17:22

大数据文摘出品

来源：theverge

编译：肥恬儿

某个星期一，Dana Simmons来到楼下，发现她12岁的儿子Lazare眼泪汪汪的。原来儿子完成了Edgenuity（虚拟学习在线平台）上七年级历史课程的第一份作业。

满分为100，但他只拿了50分。这并不是一个单纯的测试，而是他的真实成绩。

Simmons在接受The Verge的电话采访的时候说：“他曾跟我说，他将在其余所有剩下的功课中获得100分，但他现在真的是沮丧极了。”

最初，作为一名历史老师，Simmons试图安慰她的儿子说：“你知道吗，其实有些老师在一开始的评分非常苛刻，”但是Lazare澄清说，提交答案后不到一秒钟他的成绩就出来了。Simmons这才知道，老师并没有看过她儿子的答案，而是通过算法进行评分。

Simmons看着儿子 Lazare完成了更多作业，并且查看了Edgenuity系统最后显示的正确答案后，她推测Edgenuity的AI一般会扫描学生作业并且寻找作业中的关键字。于是她决定赌一把。

对于每个问题，Lazare都会写两个长句子以及一连串不连贯的关键字列表——一堆与问题相关的关键词。Simmons说：“作业中一个问题是……‘君士坦丁堡的地理位置对拜占庭帝国的力量有何优势？’其实，只要仔细想一下，与此相关的可能关键字是什么？财富，商队，船舶，印度，中国，中东，只要把所有这些词儿都扔进去句子里就好了。”

Lazare告诉The Verge ：“我想赌一把是因为，我觉得这是获得好成绩的一种简单的手段。” 他通常从问题所依据的文章或视频中挖掘关键词。

显然，“单词沙拉”（word salad）这种词语大杂烩足以在Edgenuity测试的任何简短问答题上获得满分。

Edgenuity目前还不能回应重复的评论请求，但这家公司的在线帮助中心则表示将会在未来对这个功能进行改进。根据该网站，如果某些问题的答案不包含任何关键字，则为0分，如果包含至少一个关键字，则为100％。其他问题会根据所包含的关键字数量获得一定的百分比。

算法更新！儿子终于破解了这个人工智能评分软件的秘密：两个完整的句子，然后再加一个可适用大部分情况的关键词，现在每次作业都考100分。@EdgenuityInc上的学生，别错过了。他可是从F，在没有学习任何东西的情况下就变成了A+。

由于COVID-19疫情的影响，美国各地的学校将教学转移到在线或半在线模式，因此许多学校正在将一些教学和评分外包给虚拟教育平台。Edgenuity为中学生和高中生提供了300多个在线课程，从数学到社会研究，AP课程到选修课程的各个领域。

它们由教学视频和虚拟作业以及测试和考试组成。Edgenuity提供课程并为作业评分。Lazare的实际数学和历史课程目前通过这个平台进行，并且由于大流行病的原因，他所在的洛杉矶联合学校教育区也都是在线开课。（该地区拒绝对此事发表评论）。

当然，简短的问答题并不是影响Edgenuity成绩的唯一因素——Lazare的课程需要回答其他格式的问题，其中包括多选题和填空题。熟悉这个平台的开发人员估算了一下，问答题占了不到5%的Edgenuity课程内容，而Verge也和其他八位参与了这个研究调查的学生中得到证实，这类任务只是他们工作的一小部分。不过，这种策略肯定会影响Lazare的课堂表现，现在他的每项任务获得100分。

Lazare并不是系统中唯一的一位赌赢了的人。根据这个公司的网站，目前有超过20,000所学校使用该平台，包括全国25个最大学区中的20个，来自其他高中的两名学生告诉作者，他们也发现了一种类似的作弊方法。他们通常会复制问题的文本，然后粘贴到答案中，以假乱真的包括可能相关的关键词。有人告诉作者，他们整学期都使用了这个技巧，并“几乎每次“都获得了满分。

另一位在几年前使用过Edgenuity的高中生说，他有时会尝试提交与问题相关的一堆单词，但“仅仅是当我完全不知道怎么做题的时候”，不过这个方法“经常会奏效”。

还有一位学生告诉作者，如果不是利用了这些漏洞，他估计不会通过他的代数课程。他说，他已经能够找到答案所需要的关键字或是示例答案——基本上十次有九次都可以在网上找到它们。但是，他也没有完全复制粘贴自己找到的答案，而是自己尝试着做一下其中三个问题的答案。（“任何出色的作弊者都不会追求完美的成绩，”他解释道。）

奥斯丁·帕拉迪索（Austin Paradiso）毕业之前，曾在高中使用Edgenuity进行许多的课程，他不喜欢词语大杂烩，但偶尔确实使用了几次关键字这种方法。“它100％的时间都有效。”帕拉迪索说道，“我一直试图使答案至少具有半连贯性，因为仅将一堆关键词扔到字段中似乎太低劣了。但是，如果我比较懒惰，我也很容易就能写出与问题提示相关的随机单词串，并且获得100％的收益。”

不过，老师确实也可以查看学生提交的所有内容，并且可以重新分配Edgenuity拿代数课程的学生们的成绩。某个学生也听说过有些学生被抓到试图用关键字混搭蒙混过关的案例。但是与作者交谈过的大多数学生和 Simmons都说，他们从未见过老师更改Edgenuity分配给他们的成绩。一名学生说：“如果老师看到这种答案，他们也不在乎。”

在这种过度到使用Edgenuity上网课的模式对某些学校来说是摇摇欲坠的——田纳西州威廉姆森县的父母对他们所在地区对这个平台的使用表示反感，并声称无数的技术问题影响了他们孩子的成绩。曾经Edgenuity被试图注册的学生淹没时，并引起科罗拉多州斯廷博特斯普林斯的一个地区的入学时间中断。

对于 Simmons来说，Simmons很高兴Lazare学会了如何玩转教育算法——这当然是一项有用的技能。但她也承认，他的好成绩并不能反映出对他的课程有更好理解，而且她担心这样的漏洞可能加剧学生之间的不平等。

她说：“他之所以得A+，是因为他的父母拥有关于技术的研究生学位并且对技术感兴趣。否则他仍然会得到很多的F。这能说明啥呢……在线学习环境中的数字鸿沟？”