大公网

大公报电子版
首页 > 新闻 > 国际 > 正文

学生或遭误判作弊 AI检测工具准确度惹争议

2024-11-18 05:02:19大公报
字号
放大
标准
分享

  图:AI检测工具GPTZero虽然号称“AI克星”,但检测结果依然存在误判情况。\网络图片

  【大公报讯】据彭博社报道:在人工智能盛行的当下,AI工具对教育带来了便利,也带来了新的挑战。如何识别学生是否有使用AI,是否存在抄袭等学术不端行为,教育界仍在摸索。

  AI检测工具通常会借文本的复杂度和变化的多元程度,来判断文章是否由AI生成,这导致写作风格更固定模式化的学生,包括英语作为第二语言的学生,更容易面临被AI检测工具误判的情况。

  彭博社使用了500篇大学入学申请文书,对两款知名AI检测工具“GPTZero”和“Copyleaks”进行测试,这些文书确认由真人撰写。结果显示,两款AI检测工具,错误地将1%到2%的文件标记为可能由AI撰写。彭博社还使用GPTZero来检测一篇由人类撰写的论文,GPTZero先错误地将其判定为98.1%概率是由AI生成,但使用了可将文章修改成更像人类写作的风格的工具“Hix Bypass”修改后,GPTZero判论文是由AI生成的机率大幅降至5.3%。

  史丹福大学的研究发现,AI检测工具在检查美国八年级学生的作文时,准确度“近乎完美”,但在检查非英语母语学生的作文时,却将超过一半的作文标记为AI生成。由于作业被误判的可能性存在,大学生们现在会采取各种措施来证明自己作品为原创,例如视频记录写作过程、使用Google文件以便教师查阅修改纪录,甚至耗费大量心力改变措辞。

  也有专家认为,教育工作者也应该增加对AI的认识,引导学生将AI当作学习的辅助工具,而非一项威胁。

点击排行