OpenAI 悄然关闭其人工智能检测工具

273
2023-08-02



一月份,人工智能巨头 OpenAI 宣布推出一款工具,可以通过检测一段内容是否是使用其自己的 ChatGPT 等生成式 AI 工具创建的,来拯救世界,或者至少保持教授和教师的理智。


半年后,这个工具就死了,因为它无法完成其设计目的。


ChatGPT 创建者 OpenAI 上周悄然拔掉了其人工智能检测工具 AI Classifier,因为该公司表示,因为“其准确率较低”。该解释并不是在新的公告中,而是在首次发布该工具的博客文章中添加的注释中添加的。OpenAI 分类器的链接不再可用。


OpenAI 写道:“我们正在努力整合反馈,目前正在研究更有效的文本来源技术,并承诺开发和部署机制,使用户能够了解音频或视觉内容是否是人工智能生成的。”


允许使用日益复杂的人工智能的新工具几乎每天都会上线,并创建了人工智能探测器的家庭手工业。


OpenAI 宣布推出人工智能分类器,声称它可以区分人类和人工智能编写的文本。然而,即便如此,OpenAI 仍称分类器“并不完全可靠”,并补充说,对英语文本“挑战集”的评估正确地将 26% 的人工智能编写的文本识别为“可能是人工智能编写的”,同时错误地标记了人类编写的文本。 - 9% 的时间由 AI 编写文本。


OpenAI 表示,AI 分类器的局限性包括对少于 1000 个字符的文本不可靠、将人类编写的文本错误地标记为 AI 编写的文本,以及基于神经网络的分类器在训练数据之外表现不佳。


对准确检测人工智能非常感兴趣的一个领域是教育。自去年 11 月 ChatGPT 推出以来,教育工作者对学生使用聊天机器人写论文敲响了警钟。


OpenAI 表示:“我们认识到,识别人工智能编写的文本一直是教育工作者讨论的一个重要问题,同样重要的是认识到人工智能生成的文本分类器在课堂上的局限性和影响。”并补充说,该公司将继续扩大推广范围当它学习的时候。


OpenAI 尚未回复Decrypt 的置评请求。


60220
文章来源于网络,如有侵权请联系本站删除
精选二手好课
更多>>
次卡|广州奥园广场芒果健身私教课转让
康复课、常规私教课
¥7500
次卡|瑜伽课转让
小班课
¥4263
年卡|大刊牛文课转让
大刊牛文课
¥1000
年卡|26考研英语课程转让
考研课
¥600
年卡|优路教育注册监理工程师线上课程
注册监理工程师
¥1800
年卡|一级建造师 优路教育 私教班
一级建造师
¥1000
年卡|注册电气工程师基础考试,英之教育,优培班
注册电气工程师
¥2000
年卡|超格网课转让
教师招聘
¥500
次卡|宁波哈喽贝比早教课时托班
早教课
¥8800
次卡|泰安克莱沃(金色雨林)早教课。配合更名。 还余76节课。一口价8890转。
早教课
¥8890
73
AI资讯

OpenAI 悄然关闭其人工智能检测工具

收录于合集



一月份,人工智能巨头 OpenAI 宣布推出一款工具,可以通过检测一段内容是否是使用其自己的 ChatGPT 等生成式 AI 工具创建的,来拯救世界,或者至少保持教授和教师的理智。


半年后,这个工具就死了,因为它无法完成其设计目的。


ChatGPT 创建者 OpenAI 上周悄然拔掉了其人工智能检测工具 AI Classifier,因为该公司表示,因为“其准确率较低”。该解释并不是在新的公告中,而是在首次发布该工具的博客文章中添加的注释中添加的。OpenAI 分类器的链接不再可用。


OpenAI 写道:“我们正在努力整合反馈,目前正在研究更有效的文本来源技术,并承诺开发和部署机制,使用户能够了解音频或视觉内容是否是人工智能生成的。”


允许使用日益复杂的人工智能的新工具几乎每天都会上线,并创建了人工智能探测器的家庭手工业。


OpenAI 宣布推出人工智能分类器,声称它可以区分人类和人工智能编写的文本。然而,即便如此,OpenAI 仍称分类器“并不完全可靠”,并补充说,对英语文本“挑战集”的评估正确地将 26% 的人工智能编写的文本识别为“可能是人工智能编写的”,同时错误地标记了人类编写的文本。 - 9% 的时间由 AI 编写文本。


OpenAI 表示,AI 分类器的局限性包括对少于 1000 个字符的文本不可靠、将人类编写的文本错误地标记为 AI 编写的文本,以及基于神经网络的分类器在训练数据之外表现不佳。


对准确检测人工智能非常感兴趣的一个领域是教育。自去年 11 月 ChatGPT 推出以来,教育工作者对学生使用聊天机器人写论文敲响了警钟。


OpenAI 表示:“我们认识到,识别人工智能编写的文本一直是教育工作者讨论的一个重要问题,同样重要的是认识到人工智能生成的文本分类器在课堂上的局限性和影响。”并补充说,该公司将继续扩大推广范围当它学习的时候。


OpenAI 尚未回复Decrypt 的置评请求。


60220
收录于合集
文章来源于网络,如有侵权请联系本站删除
二手好课
更多>>
次卡|广州奥园广场芒果健身私教课转让
康复课、常规私教课
¥7500
次卡|瑜伽课转让
小班课
¥4263
年卡|大刊牛文课转让
大刊牛文课
¥1000
年卡|26考研英语课程转让
考研课
¥600
年卡|优路教育注册监理工程师线上课程
注册监理工程师
¥1800
年卡|一级建造师 优路教育 私教班
一级建造师
¥1000
年卡|注册电气工程师基础考试,英之教育,优培班
注册电气工程师
¥2000
年卡|超格网课转让
教师招聘
¥500
次卡|宁波哈喽贝比早教课时托班
早教课
¥8800
次卡|泰安克莱沃(金色雨林)早教课。配合更名。 还余76节课。一口价8890转。
早教课
¥8890