导读语言模型给我们的生产生活带来了极大便利,但同时不少人也利用他们从事作弊工作。如何规避这些难辨真伪的文字所产生的负面影响也成为一大难题。在3月9日智源Live第33期活动「DetectGPT:判断文本是否为机器生成的工具」中,主讲人Eric为我们讲解了DetectGPT工作背后的思路——一种基于概率曲率检测的用于检测模型生成文本的工具,它可以帮助我们更好地分辨文章的来源和可信度,对保护信息真实、防止欺诈等方面具有重要意义。本次报告主要围绕其功能,实现和效果等展开。(文末点击“阅读原文”,查看活动回放。)Ericmitchell斯坦福大学计算机系四年级博士生,由ChelseaFinn和Chri
1.背景随着ChatGPT的持续火爆,现在无论哪个行业,几乎是人尽皆知。同时,利用ChatGPT进行造假作弊的情况也是层出不穷,尤其是在教育和传媒行业。在美国的一项千人调查中,有89%的学生表示在家庭作业中使用了ChatGPT,不亦乐乎😂,并且斯坦福等大学中有部分学生也准备在期末考试中使用ChatGPT。ChatGPT能够改编充斥阴谋论和误导性叙述的问题,产生大量令人信服却无信源的内容,或成为传播网络谣言的工具……鉴于以上种种,OpenAI官方紧急发布了打假工具(判断是否AI生成分为5个等级:极不可能、不太可能、不清楚、可能、非常可能),原以为是造矛又造盾,强强对决,奈何鉴别为非常可能的准确率
论文笔记--DetectGPT:Zero-ShotMachine-GeneratedTextDetectionusingProbabilityCurvature1.文章简介2.文章概括3文章重点技术3.1PerturbationDiscrepancyGap(PDG)Hypothesis3.2DetectGPT4.文章亮点5.原文传送门6.References1.文章简介标题:DetectGPT:Zero-ShotMachine-GeneratedTextDetectionusingProbabilityCurvature作者:EricMitchell,YoonhoLee,AlexanderKh