资讯
2023-07-26 18:08 来源:shouyoubus.com 作者:佚名
用手机看
没有公告,OpenAI悄然关闭了AI文本检测工具,页面直接404了。
官方对此没有公开回应,几天后才有人找到一则简短说明,藏在半年前工具发布的博客页面中。
……AI检测器由于准确率较低而不再可用……我们正在研究更有效的文本检测技术,并承诺开发音频和视觉检测技术。
对于CloseAIOpenAI不发公告就杀死一个产品这种行为,很多网友是不满意的。
但是对关闭AI检测器本身倒是有不少人表示赞同,特别是学生群体。
太多老师相信这玩意有效,大量冤枉学生用AI作弊,已经变成了一场猎巫运动。
准确率和瞎猜差不多
这个官方检测工具,准确率究竟有多低呢?
OpenAI自己给出的数据,只能正确识别26%的AI生成文本,同时冤枉9%的人类编写文本。
1月份刚发布时就被网友总结为“和瞎猜差不多”。
另外有人做过实验发现,市面上各种检测工具会把圣经、美国宪法等历史文本都被判定可能为AI编写,总不能写下这些内容的历史人物都是时间穿越者吧?
但还是有很多老师试图用各种检测方法来检查学生作业。
最著名的一次,得克萨斯农工大学一位教授差点判定半个班的学生延毕。
目前最新的趋势是,教师要求学生用在线文档写作业并检查编辑记录,但聪明的学生也能找到规避办法。
最终对于教育领域,有人提出可能大作业/课程论文将成为历史,闭卷考试或口语考试将成为主流。
目前的检测方法都能规避
网友指出,OpenAI同时开发生成和检测工具本身就是矛盾的。
如果一边做的好就意味着另一边没做好,同时还有可能存在利益冲突。
但是第三方开发的检测方法,可靠性也不高。
最早被称为“ChatGPT克星”的是普林斯顿本科生Edward Tian开发的GPTZero,用复杂性和长短句的变化来衡量文章是否由AI生成。
当时GPTZero计划专为教育工作者打造,老师可以把全班学生的作业丢进去检测。
但到了7月份,作者承认已放弃了检测学生作弊这个方向,计划下个版本的GPTZero将不再检测文本是否由AI生成,而是突出最像人写的部分。
另外一个很受关注的检测方法,是马里兰大学开发的水印法,要求大模型在生成文本的时候就藏下记号,并用统计方法识别。
但是规避的办法也很简单,比如有人开发了简单的同义词替换工具,就能破坏统计特征。
甚至有人开始怀疑,人们到底是为了什么非要区分这个。
就像数字到底是人计算的还是计算机完成的,早就没人在意了。
演讲者的稿是自己写的还是秘书写的,不是也没人在意吗。
人类行为学研究,正在用AI充当被试
无法区分AI和人类的内容,似乎也不全是坏事。
已经有心理实验用AI代替人类被试加速研究了。
Cell子刊上一篇文章指出,在精心设计的实验场景中,ChatGPT的反应与大约95%的人类参与者的反应呈相关性。
并且机器被试不会疲倦,使科学家能以前所未有的速度收集数据并测试有关人类行为的理论。
而在最近一篇Science主刊的观点文章上,滑铁卢大学心理学教授Igor Grossman认为:
“人工智能可以改变社会科学研究的游戏规则,谨慎的偏见管理和数据保真度是关键。”
参考链接:
[1]https://twitter.com/KevinAFischer/status/1683898199981928450
[2]https://www.reddit.com/r/ChatGPT/comments/159j8rc/openai_quietly_kills_its_own_ai_classifier_citing/
[3]https://news.ycombinator.com/item?id=36862850
[4]https://www.cell.com/trends/cognitive-sciences/fulltext/S1364-6613(23)00098-0
[5]https://www.science.org/doi/10.1126/science.adi1778
[6]https://theconversation.com/beyond-the-hype-how-ai-could-change-the-game-for-social-science-research-208086
责任编辑:落木
以上就是手游巴士为您提供《准确率近乎瞎猜!ChatGPT官方检测工具悄悄下架》的详细内容,更多精彩内容请继续阅读上一篇《金华站竟有网约车候车厅 实时显示到场车辆!网友:建议全国推广》2023-07-26 NASA因供电问题与国际空间站失联 还得靠俄罗斯帮忙
2023-07-26 240Hz高刷游戏本!惠普暗影精灵9图赏
2023-07-26 于适为了电影《封神》两年没剪头发:用心打磨 塑造角色
2023-07-26 每天赚1个亿 掏30亿奖励员工 宁德时代杀疯了
2023-07-26 谁来治治新能源的吹牛症?
2023-07-26 起个大早赶个晚集 日产宣布电动车销量破100万台:足足耗时13年
2023-07-26 高规格游戏不赚钱了!《赛博朋克2077》开发商裁掉近百人
2023-07-26 上热搜了!网友:如果微信显示对方已删除的话就完美了
2023-07-26 超强台风“杜苏芮”登陆后还将深入内陆:一路北上河南、山东、河北
2023-07-26 国产手机芯片捅破天 一图看懂展锐V8821:沙漠海洋都能用
2023-07-26 曾称男性没170cm就没人权 前美女职业玩家又被封号
2023-07-26 油价三连涨 95号汽油全面进入“8元时代”:我国油价在世界上算贵吗?
2023-07-26 CF手游嘉年华愿望活动来袭 88-8888钻石可两次领取!
2023-07-26 下半年智能手机五大趋势:大内存加速普及 1TB白菜价
2023-07-26 男子感谢Flyme帮找回小米手机 魅族Flyme回应
2023-07-26 金华站竟有网约车候车厅 实时显示到场车辆!网友:建议全国推广
2023-07-26 准确率近乎瞎猜!ChatGPT官方检测工具悄悄下架
2023-07-26 《LOL》发布12周年节目单,时隔1427天重回线下
2023-07-26 遥遥领先!华为云连续三年中国第一
2023-07-26 9.9元拍AI写真!妙鸭相机被上海消保委点名:回应称生成失败可退款
2023-07-26 比亚迪海豹双面侧柱碰挑战成功:电池无变形、装车还能用
2023-07-26 顾客吃米线倒醋洗碗 店家:浪费调料很气愤
2023-07-26 感动全网环卫工儿子被唐山师范学院录取:网友纷纷送上祝福
2023-07-26 让你夏天睡个好觉:安睡宝3D cool凉席套装79元大促(60元劵)
2023-07-26 马化腾要卖房?腾讯否认进军房产:只是项目发展需要
满分 箭头消消消7.26第二关怎么过 7.26第二关过关答案
满分 三国梗传第五十三关江东第一乔攻略 帮助大乔战胜小乔夫妇
满分 三国梗传第五十四关败走麦城篇攻略 在120s内击败关羽
手游巴士
手游巴士