Line|「反 ChatGPT 神器」来了！背后还有一个被忽略的互联网难题雅虎|创投圈

文章图片

文章图片

文章图片

文章图片

文章图片

文章图片

文章图片

在「犯罪」的道路上，人类可能是无师自通的。
ChatGPT 火了，下一秒就有学生拿它来做作业、写论文，你很难说这到底是作弊还是剽窃。
老师很难确定学生的作业都出自自己之手，而人类也无法确定工具的最终形态到底是什么。

面对成本低、效率高的 AI 文字生成工具，仅靠人类的智慧已经很难进行分辨。最顶尖的人工智能公司从「师夷长技以制夷」中学到的经验也用在了这里——它们要用 AI 识别 AI 。
以 AI 治 AI ，它们出手了 OpenAI 是近年风头最劲的人工智能研究室。过去一年你看到的文字生成视频、文字生成图像都有它的身影， ChatGPT 也是它的得意之作。
基本每个月都会发布震惊业界成果的 OpenAI ，刚发布的新产品却是一个 AI 内容检测器。

这个检测器目前只能应用于文字内容，争议和批评更多的图像则不在此列。检测器唯一的功能就是从人工智能的角度替你进行判断，看看这段文字是不是人工智能生成的。
目前，只有美国地区的用户可以体验这个检测器的功能，检测器本身也对检测文本进行了一定的限制：
英文文本，检测器和 ChatGPT 在英文外其他语言表现不佳。需要 1000 个字符，大约 150-250 个左右的单词才能生成更可信的结果。检测器在儿童撰写的文本内容上同样表现不佳，检测器主要针对成人英文文本进行训练。
最终检测器会在完成判断后给出「很可能、可能、不清楚、不可能、非常不可能」5 种答案。
这个检测器从目前来看也不太聪明。在测试中，有文章末尾显示「本文全文由 ChatGPT 撰写」的内容，检测器仍表示「不清楚」这篇文章是否由人工智能撰写。
这也是检测器目前尚无法从理解文本上进行判别的「证据」之一。

检测器的出现象征意义比实际意义更大，这说明知名的人工智能实验室们依旧在乎内容的真实。
毕竟从 ChatGPT 诞生开始，学校的老师就开始担心学生的作业不再被认真对待，世界上最大的学术出版商声明 ChatGPT 不能被记为作者，还有人担心新技术变为欺诈的工具。
而现在，人工智能实验室想努力辨别内容的创作来源，这本身就是好事。
即便你是创造者，安能辨我是 AI 好事之外，多的是坏消息。

因为这个检测器的成功率有点惨不忍睹——26% 的准确率放在医学领域属于谋财害命一般的存在，就算放在运动领域预估运动员下一个动作能否得分的成功率都没这么低。
OpenAI 在发布这个工具时也承认了这一点。
它有时会「错误但自信地」将人类书写的文本标记为人工智能创造的文本，尤其是当文本与训练数据中的内容有较大差别时。