AI 无法打败 AI，ChatGPT 检测器频繁冤枉无辜学生，有 210 万教师在用

当你被 AI 无辜扣上「作弊」的帽子，作何感想？

这件事恰恰发生在了一位高三学生 Lucy Goetz 身上。原本她写的一篇社会主义原创论文得了最高分。

但是，Turnitin 公司的 AI 写作检测器竟说，Goetz 论文结尾是用 ChatGPT 生成的。

Goetz 震惊道，「我很高兴能和老师们保持良好的关系」。

简言之，还好老师了解我，不然跳进黄河都洗不清了。

而更令人惊讶的是，这个 ChatGPT 检测器现在已经被 210 万名教师使用。

AI 无法打败 AI

Goetz 的论文中被标记出的部分属于异常情况，但这表明检测器有时会出错。

显然，AI 是无法打败 AI 的。这对许多学生来说可能产生灾难性的后果。

为了测试 Turnitin 的检测器，华盛顿时报的记者 Geoffrey A. Fowler 对 Goetz 在内的 5 名高中生进行了测试。

他们创作了 16 篇涵盖真实、AI 生成，以及混合来源的论文样本。

结果如何呢？

Turnitin 的检测器至少在一半以上的样本中出现错误，仅是准确识别出了其中 6 篇，但在 3 篇上的检测都失败了。其中就包括对 Goetz 原创论文中 8% 内容的标记错误。

对于剩下的 7 篇，Fowler 称，「我只会给它部分分数，因为它的判断大致正确，但错误识别了一些 ChatGPT 生成或混合来源的写作部分。」

然而，Turnitin 声称其检测器的整体准确率达到 98%。该公司还表示，在其自身测试中，类似 Goetz 论文的情况（即假阳性）发生的概率不到 1%。

Turnitin 的 AI 检测器详细页面会分配一个总分，并突出显示疑似 AI 生成的句子。该公司表示，它故意用蓝色而非红色标记疑似 AI 生成的段落，并在得分下方链接教师资源。

加州康科德市 Goetz 的 AP 英语课老师 Rebecca Dell 表示，Turnitin 标记 AI 文本的系统并不总是有效，这令人担忧。

与抄袭指控不同，AI 作弊没有源文件作为证据，这最容易让老师对学生带有偏见。

或许并不是每个人都像 Goetz 那么幸运。

Goetz 表示，「对于学生来说，被指控 AI 作弊尤其令人恐惧。除非你的老师了解你的写作风格，或者对你非常信任，否则没有办法证明你没有作弊」。

AI 检测为何如此困难

自 ChatGPT 面世以来，已经被许多高校的学生和老师用在日常的作业和教学中。

然而，如果不加以限制，ChatGPT 将会变成史上最强大的作弊工具，可以帮助学生们写作业，甚至是完成考试论文。

为了反侦察，一款简单易用的检测器成为老师期盼的东西。一位 22 岁普林斯顿大学的学生 Edward Tian，就自行开发了一款检测器 ——GPTZero。

甚至，OpenAI 官宣推出一个新工具，名为 AI Text Classifier 的文件检测器。

但是，这些检测器的表现并不如人意。

检测出 AI 创作的内容听起来很简单。但当给你一封手写邮件和 ChatGPT 生成的邮件后，我们几乎无法辨别。

Turnitin 的人工智能副总裁 Eric Wang 称，用软件检测人工智能写作涉及统计学。从统计学的角度来看，人工智能与人类的区别在于它极其稳定地处于平均水平。

直白点讲，AI 水平很稳定。然而，实际上并非这样一个道理。

「像 ChatGPT 这样的系统就像是自动补全的高级版本，寻找下一个最可能要写的单词。这实际上就是它为什么读起来如此自然的原因。AI 写作是人类写作中最可能的子集。」

Turnitin 的检测器便会「识别出书写过于一致的平均情况」。挑战就在于，有时候有时人类的写作可能确实看起来处于平均水平。

在经济学、数学和实验室报告中，学生倾向于遵循固定的写作风格，这意味着他们更有可能被误认为是 AI 写作。

这可能就是为什么 Turnitin 错误地标记了 Goetz 的论文，因为它的内容涉及到经济学。

Wang 表示，Turnitin 努力调整其系统，在标记某个句子为 AI 生成之前需要更高的置信度，以便在这方面犯错。

并称，自己家的软件已经有了很大的进展。「我首次在 1 月下旬测试 Goetz 的论文时，该软件识别出其中大约 50% 是 AI 生成的。Turnitin 在 3 月下旬再次通过其系统运行我的样本，那时只标记了 Goetz 论文中的 8% 为 AI 生成的。」

Turnitin 的检测器也面临其他重要的技术限制。

在它完全检测正确的 6 个样本中，它们都明显是 100% 的学生作品，或由 ChatGPT 生成的。

但是当用混合 AI 和人类来源的论文进行测试时，它经常错误识别单个句子，或完全漏掉人类部分。而且它无法在通过 Quillbot（一个可以重新组合句子的改写程序）处理的论文中发现 ChatGPT 的痕迹。

此外，Turnitin 的检测器可能已经落后于当前的人工智能技术水平。

因为就拿 ChatGPT 来说吧，现在已经得到了 GPT-4 的加持，而且具有更多的创造性和风格化能力。

英伟达科学家 Jim Fan 称，我认为检测器在长期内是不可靠的。人工智能会变得越来越好，并且会以越来越像人类的方式进行写作。可以肯定地说，随着时间的推移，这些语言模型的小怪癖都会减少。

用 AI 检测，是个好主意吗？

既然有出错的潜在可能性（即使只有 1%），为什么还要发布人工智能检测器呢？

Chechitelli 说，「教师希望有威慑作用」。然而，一些教育工作者担心这实际上会提高学生的紧张程度。

4 月 4 日，Turnitin 已经为大约 10,700 所中等教育和高等教育机构激活了这款 ChatGPT 检测器，对学生作业进行「由 AI 生成」的评分以及逐句分析。

密歇根大学迪尔伯恩分校的数字教育副教务长 Mitchel Sollenberger 请求 Turnitin 不要在初始发布时为其校园激活 AI 检测。

他担忧的是，每学期约 2 万份学生论文，通过 Turnitin 进行检测的教师可能会因误报，从而导致毫无根据的学术诚信调查。教师不应该成为第三方软件系统的专家。

参考资料：

• https://www.washingtonpost.com/technology/2023/04/01/chatgpt-cheating-detection-turnitin/

本文来自微信公众号：新智元 （ID：AI_era）

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。