互联网资讯 / 人工智能 · 2024年1月11日 0

DetectGPT:研究人员对抗AI生成的论文

近期,AI聊天机器人 ChatGPT 爆火,除了让科技巨头们谷歌、Meta 等压力增大以外,该工具也让很多高校的教育工作者头疼,比如有学生利用ChatGPT完成了大学课程作业,生成了令人信服的论文。

为了检测AI生成的文本,斯坦福大学的研究人员提出了一种名为“ DetectGPT ”新方法,检测机器编写的论文。

站长之家了解到,“ DetectGPT ”旨在成为首批打击高等教育中利用AI生成论文行为的工具之一。斯坦福大学团队开发了一种新的晴雨表来判断文本是否是机器生成的,它不依赖于训练人工智能或收集大型数据集来比较文本。

这种方法被称为“zeRo-shot”,简单的说该方法允许 DetectGPT 检测机器编写的文本,而无需了解用于生成文本的 AI。

该团队在一个假新闻文章数据集上测试了DetectGPT,它在检测机器生成文本方面优于其他“zeRo-shot”方法。

总之,DetectGPT是一种检测机器生成文本的新方法,它利用了LLM生成的文本的独特特征。不需要任何额外的数据或训练,使其成为识别机器生成文本的高效和有效的工具。随着 LLM 的使用不断增长,用于检测机器生成文本的相应系统的重要性将变得越来越重要。DetectGPT 是一种很值得关注的方法,可以在许多领域产生重大影响,其进一步发展可能对许多领域有益。