OpenAI紧急发布AI文本检测工具

GoUpSec 2023-08-19

点击蓝字关注我们 ///

@GoUpSec

随着ChatGPT在教育和学术领域的迅速蹿红，用人工智能写作业、代码甚至论文已经成为ChatGPT最热门的应用，这引起了各国教育部门的高度关注和警惕。

据BusinessInsider报道，纽约市、西雅图、洛杉矶和巴尔的摩K-12公立学区已经禁止使用ChatGPT，法国和印度的大学也禁止在学校计算机上使用该平台。

近日，OpenAI紧急发布了一个AI文本检查工具（链接在文末），能够检测输入内容是否是使用ChatGPT等人工智能工具生成的。

“AI文本分类器是一个经过微调的GPT模型，可以预测一段文本由AI（例如ChatGPT）生成的可能性。”OpenAI的一篇新博文解释道。

BleepingComputer测试了OpenAI发布的AI文本检测工具（分类器），发现其准确性不容乐观，它能正确识别人类撰写的文章，但是在分析由ChatGPT和You.com的AI聊天机器人生成的内容时，准确性大打折扣。

根据OpenAI公布的数据，AI文本检查工具只能成功识别26%的AI文本，同时错误地将9%的人类文本标记（误报）为AI文本。

显然，AI文本检查工具自身也需要大量数据训练才能提高准确性，目前而言，它还不是检测人工智能生成内容的可靠工具。鉴于很多教育工作者会用新发布的AI文本检查工具来检查学生是否在家庭作业（或论文）中使用AI技术，OpenAI警告说该工具不应该被用作确定学术不端的“唯一证据”。

AI文本检查工具链接：

https://platform.openai.com/ai-text-classifier

END