大型语言模型（LLM）的使用正在激增，而且有充分的理由；它真的很好。在过去的两个星期里，ChatGPT已经成为我最喜欢的工具。在工作中，我问它如何针对现代内核构建一个晦涩的Linux软件，它告诉我如何做。它甚至还生成了完成该任务所需的bash命令的代码块。我还要求它做各种愚蠢的事情。例如，它为Hulk Hogan生成了一份虚构的简历，他以前没有IT经验，但想过渡到Azure云工程师的角色。它也这么做了，而且很搞笑。事实上，它是如此之好，以至于它可以为你的大学课业生成口齿清晰、令人信服的论文。正因为如此，现在需要有检测机器生成的文本的系统。
最近，斯坦福大学的一个研究小组提出了一种名为DetectGPT的新方法，旨在成为打击高等教育中生成文本的首批工具之一。该方法是基于这样的想法：由LLMs生成的文本通常在模型的对数概率函数的负曲率区域的特定区域徘徊。通过这种洞察力，该团队开发了一种新的晴雨表，用于判断文本是否是机器生成的，这并不依赖于训练人工智能或收集大型数据集来比较文本。我们只能猜测这意味着人类书写的文本占据了正曲率区域，但消息来源对此并不清楚。
这种方法被称为 "零射"，允许DetectGPT检测机器写的文本，而不需要了解用于生成文本的人工智能。它的操作与其他需要训练 "分类器 "和真实及生成段落数据集的方法形成鲜明对比。
该团队在假新闻文章的数据集上测试了DetectGPT（大概是去年CNET的文章），它在检测机器生成的文本方面的表现优于其他零拍方法。具体来说，他们发现DetectGPT提高了对20B参数GPT-NeoX生成的假新闻文章的检测，从最强零点拍摄基线的0.81AUROC提高到DetectGPT的0.95AUROC。老实说，这对我来说都是法语，但它声称检测性能有了实质性的提高，并表明DetectGPT可能是一种有前途的方法，可以仔细检查机器生成的文本，向前推进。
总之，DetectGPT是一种检测机器生成的文本的新方法，它利用了LLMs生成的文本的独特特征。它是一种不需要任何额外数据或训练的零散方法，使其成为识别机器生成的文本的高效和有效工具。随着LLMs的使用继续增长，检测机器生成的文本的相应系统的重要性将变得越来越关键。DetectGPT是一种很有前途的方法，可以在许多领域产生重大影响，它的进一步发展可能对许多领域都有利。
来源：DetectGPT (ericmitchell.ai)
