站长之家(ChinaZ.com) 7月26日 消息:OpenAI 因其 AI 文本检测器无法准确判断文本是否由AI生成而将其下架。该检测器在确定文本是由人还是机器生成方面的准确率较低。OpenAI 表示他们正在努力改进，并研究更有效的文本来源技术，以及开发能够帮助用户了解音频或视觉内容是否由 AI 生成的机制。
该检测器免费供用户使用，用户可以将文本复制粘贴到其中以检查其是否由计算机生成。这对于确定电子邮件、博客文章或论文是否由人类撰写非常有用。分类器使用大型语言模型对内容进行排名，以确定其中有多少可能是由软件生成的，从 “非常可能” 到 “不确定” 到 “可能”。
OpenAI 在发布时警告称其 AI 检测器 “不完全可靠”，并承认它很容易错误地将人类写的文本标记为机器写的。然而，OpenAI 却大力推崇 ChatGPT 等机器人的使用，尽管其不可靠。
该检测器在处理经人类编辑过的 AI 生成文本方面表现不佳，并且对其训练数据集中未见过的散文也感到困惑。它在预测方面也存在过度自信的问题:“有时检测器对错误的预测非常自信”，OpenAI 表示。
OpenAI 推出 AI 检测器是因为人们对机器内容被学生用来写作文和完成作业的担忧日益增长。在发布时，OpenAI 敦促教育工作者不要将该模型的预测视为绝对真实，而是将其作为一种辅助工具来确定文本来源的其他方法。
准确检测 AI 生成的文本目前仍然是一个困难的问题。其他开发者和公司开发的类似工具也不可靠，并对学生的教育产生了真实的影响。美国德克萨斯州农工大学的一位教师因 ChatGPT 预测他们的文本为 AI 生成而暂时扣留了一些学生的成绩，该大学随后恢复了学生的分数。
与此同时，Turnitin 开发的 AI 软件已在学校和大学中推广使用，以 “98% 的准确率” 解决抄袭问题，尽管其真实的准确性尚不清楚。马里兰大学的计算机科学家进行的一项研究表明，目前最好的检测器正确检测机器生成文本的机会并不比抛硬币好多少。
OpenAI 仍在努力解决这个棘手的问题。上周，这个由微软资助的实验室承诺在与拜登 - 哈里斯政府合作的承诺中开发用于 AI 生成内容的数字水印技术，以确保下一代机器学习技术的安全使用。
（举报）