OpenAI 悄然关闭其人工智能检测工具

307
2023-08-02



一月份,人工智能巨头 OpenAI 宣布推出一款工具,可以通过检测一段内容是否是使用其自己的 ChatGPT 等生成式 AI 工具创建的,来拯救世界,或者至少保持教授和教师的理智。


半年后,这个工具就死了,因为它无法完成其设计目的。


ChatGPT 创建者 OpenAI 上周悄然拔掉了其人工智能检测工具 AI Classifier,因为该公司表示,因为“其准确率较低”。该解释并不是在新的公告中,而是在首次发布该工具的博客文章中添加的注释中添加的。OpenAI 分类器的链接不再可用。


OpenAI 写道:“我们正在努力整合反馈,目前正在研究更有效的文本来源技术,并承诺开发和部署机制,使用户能够了解音频或视觉内容是否是人工智能生成的。”


允许使用日益复杂的人工智能的新工具几乎每天都会上线,并创建了人工智能探测器的家庭手工业。


OpenAI 宣布推出人工智能分类器,声称它可以区分人类和人工智能编写的文本。然而,即便如此,OpenAI 仍称分类器“并不完全可靠”,并补充说,对英语文本“挑战集”的评估正确地将 26% 的人工智能编写的文本识别为“可能是人工智能编写的”,同时错误地标记了人类编写的文本。 - 9% 的时间由 AI 编写文本。


OpenAI 表示,AI 分类器的局限性包括对少于 1000 个字符的文本不可靠、将人类编写的文本错误地标记为 AI 编写的文本,以及基于神经网络的分类器在训练数据之外表现不佳。


对准确检测人工智能非常感兴趣的一个领域是教育。自去年 11 月 ChatGPT 推出以来,教育工作者对学生使用聊天机器人写论文敲响了警钟。


OpenAI 表示:“我们认识到,识别人工智能编写的文本一直是教育工作者讨论的一个重要问题,同样重要的是认识到人工智能生成的文本分类器在课堂上的局限性和影响。”并补充说,该公司将继续扩大推广范围当它学习的时候。


OpenAI 尚未回复Decrypt 的置评请求。


60220
文章来源于网络,如有侵权请联系本站删除
精选二手好课
更多>>
年卡|【转让】知名机构考研VIP班(专业课1对1+全程规划),低价急转!
考研全程班
¥11000
次卡|转让自考本科汉语言文学专业课程
自考本科(汉语言文学)
¥3768
年卡|名师天团五科全套大招课
高三大招课
¥27000
年卡|81之家军队文职技能岗线上课程
军队文职技能岗
¥4100
年卡|低价出还有书
专升本
¥1800
次卡|沧州 木/电吉他一对一课程转让 线上线下均可
吉他课
¥2600
次卡|Hellokid纯欧美英语外教一对一
欧美英语外教一对一
¥12000
年卡|便宜转让
健身年卡+私教课
¥10000
次卡|低价转让
瑜伽
¥75
年卡|JS舞蹈(珠海井岸店)双项教练班年卡转让
古典舞,JAZZ,K-POP,HIPPOP
¥9000
73
AI资讯

OpenAI 悄然关闭其人工智能检测工具

收录于合集



一月份,人工智能巨头 OpenAI 宣布推出一款工具,可以通过检测一段内容是否是使用其自己的 ChatGPT 等生成式 AI 工具创建的,来拯救世界,或者至少保持教授和教师的理智。


半年后,这个工具就死了,因为它无法完成其设计目的。


ChatGPT 创建者 OpenAI 上周悄然拔掉了其人工智能检测工具 AI Classifier,因为该公司表示,因为“其准确率较低”。该解释并不是在新的公告中,而是在首次发布该工具的博客文章中添加的注释中添加的。OpenAI 分类器的链接不再可用。


OpenAI 写道:“我们正在努力整合反馈,目前正在研究更有效的文本来源技术,并承诺开发和部署机制,使用户能够了解音频或视觉内容是否是人工智能生成的。”


允许使用日益复杂的人工智能的新工具几乎每天都会上线,并创建了人工智能探测器的家庭手工业。


OpenAI 宣布推出人工智能分类器,声称它可以区分人类和人工智能编写的文本。然而,即便如此,OpenAI 仍称分类器“并不完全可靠”,并补充说,对英语文本“挑战集”的评估正确地将 26% 的人工智能编写的文本识别为“可能是人工智能编写的”,同时错误地标记了人类编写的文本。 - 9% 的时间由 AI 编写文本。


OpenAI 表示,AI 分类器的局限性包括对少于 1000 个字符的文本不可靠、将人类编写的文本错误地标记为 AI 编写的文本,以及基于神经网络的分类器在训练数据之外表现不佳。


对准确检测人工智能非常感兴趣的一个领域是教育。自去年 11 月 ChatGPT 推出以来,教育工作者对学生使用聊天机器人写论文敲响了警钟。


OpenAI 表示:“我们认识到,识别人工智能编写的文本一直是教育工作者讨论的一个重要问题,同样重要的是认识到人工智能生成的文本分类器在课堂上的局限性和影响。”并补充说,该公司将继续扩大推广范围当它学习的时候。


OpenAI 尚未回复Decrypt 的置评请求。


60220
收录于合集
文章来源于网络,如有侵权请联系本站删除
二手好课
更多>>
年卡|【转让】知名机构考研VIP班(专业课1对1+全程规划),低价急转!
考研全程班
¥11000
次卡|转让自考本科汉语言文学专业课程
自考本科(汉语言文学)
¥3768
年卡|名师天团五科全套大招课
高三大招课
¥27000
年卡|81之家军队文职技能岗线上课程
军队文职技能岗
¥4100
年卡|低价出还有书
专升本
¥1800
次卡|沧州 木/电吉他一对一课程转让 线上线下均可
吉他课
¥2600
次卡|Hellokid纯欧美英语外教一对一
欧美英语外教一对一
¥12000
年卡|便宜转让
健身年卡+私教课
¥10000
次卡|低价转让
瑜伽
¥75
年卡|JS舞蹈(珠海井岸店)双项教练班年卡转让
古典舞,JAZZ,K-POP,HIPPOP
¥9000