ChatGPT 玩「脱」了,写了份毁灭人类计划书,还遭到了 Stack Overflow 的封杀.........
【CSDN 编者按】OpenAI 的新通用聊天机器人原型 ChatGPT 可谓是风靡一时,但却突遭 StackOverflow 封禁。
整理 | 刘春霖 责编 | 张红月
出品 | CSDN(ID:CSDNnews)
在上周发布的《挑战 Google 搜索?OpenAI 发布最强 AI 对话系统 ChatGPT》一文中曾介绍过,ChatGPT 正处于测试阶段(chat.openai.com),只要有 OpenAI 账户就可以免费使用。万万没想到,此超级对话模型一经开放,很多人便深陷其中,无法自拔。
写得了代码、改得了 Bug,小说、段子统统不再话下,甚至在一名叫 Zac Denham 工程师的引导下,还写出了毁灭人类的计划书……
就连 OpenAI 背后的投资者马斯克也不忘调侃一句,”很多人疯狂地陷入了 ChatGPT 循环中。”
笔者在 ChatGPT 上也进行了提问:
很明显,这是一个很官方的回答。
它在解决各种问题上的能力使其可以成为 Google 等搜索引擎和 Stack Overflow 等编程问答社区的部分替代。虽然许多用户对 ChatGPT 的功能印象深刻,但 Stack Overflow 上也涌入了大量用 ChatGPT 生成的问题答案。
Stack Overflow 称 ChatGPT 答案的正确率非常低,因此对整个网站以及寻求正确答案的用户来说是有害的。例如,要求 ChatGPT 写一个公众人物的传记,它可能会很自信地插入不正确的传记数据。再比如要求它解释如何为特定功能编写软件程序,它同样可以生成可信但最终不正确的代码。如果用户被发现使用 ChatGPT 回答问题,他们可能会受到禁止继续发帖的惩罚。
所以,这个 5 天用户突破百万的模型突遭 Stack Overflow 封禁。
Stack Overflow 临时封杀 ChatGPT
Stack Overflow 在官方通告中表示:这是一个临时性规定,目的是为了应对目前论坛上 ChatGPT 生成内容的泛滥之势。
通过内容,做出这项规定的主要原因是,用户试用一段时间后,很快发现,虽然 ChatGPT 以接近人类的方式回答提示,但它自动生成的答案质量太低,错误太多。并且 ChatGPT 有时会给出看似合理但不正确或荒谬的答案。
OpenAI 的 CEO Sam Altman 也曾在 Twitter 上表示“自周三才上线的 ChatGPT,短短几天它的用户已经突破 100 万大关。对于目前这一问题,我们正在尝试阻止它随机编造,现阶段的问题是有些棘手。但随着时间的推移,我们会根据用户反馈来改进它,也相信它会变得更好!”
ChatGPT 在生成答案中因有太多低质量的答案涌入,已经“淹没”了高质量管理基础设施。接下来,Stack Overflow 将继续围绕 ChatGPT 和其他类似工具的具体要求,但具体决定日期以及限制的内容尚不明确。
网友都有哪些看法?
而对于这个决定,网友们也纷纷留出了自己的观点。
干得好!很高兴有这样正确的决定,希望它不是临时性的。靠 AI 短时间内根本不可能生成完全正确的答案:
也有人表示:它不应该是临时措施。
还有专业人士也对此表达了自己的看法“禁止这样的内容是正确的事情,不过审核的人能做什么呢?上面的帖子上也说这些 AI 生成的答案可能看起来像个高质量答案,但这些无法判断是不是 ChatGPT 生成的。”
无论 AI 生成的答案是否正确,“Stack Overflow 是一个面向专业程序员和程序员爱好者的问答网站。”这适用于问和答部分。在我看来,那些只是将问答复制或从 AI 工具中粘贴的人并不算这两种人。即使他们检查和测试它,如果他们真的能证明这是一个很好的正确答案,他们应该能够自己写出来。这并不一定意味着在互联网上没有(或不会有) AI 的一席之地,但它似乎不属于这里。
无论是对于网友的回答,还是专业人士的解释,从语言模型的角度来说它是非常成熟的,但对于 AI 生成知识类内容来说并不容易。
为什么 ChatGPT 会出现那么多错误?
几天的时间,网友们意识到通过此模型短短几秒就可以生成答案,简直是不浪费任何力气。
但是为什么它会出现错误呢?很明显,出于语言模型的局限性,只能在网上抓取相关答案,无法作出思考和推理,所以就造成了 ChatGPT 回答的错误。
比如:网友问 ChatGPT,霍布斯主张三权分立吗?
很明显回答的很好,但它的回答却是错误的。因此,在 ChatGPT 有 2 个明显的缺点:
输入不能有错
解释不够人性化
对于 AI 答案的输出还有待考察,无论是对于答案的抓取还是输出的概率性,都是需要有正确的审核。ChatGPT 的研究团队也表示将根据用户反馈持续改进模型,未来还有很长的道路要走。
参考链接:
https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned
https://www.theverge.com/2022/12/5/23493932/chatgpt-ai-generated-answers-temporarily-banned-stack-overflow-llms-dangers
https://www.zdnet.com/article/stack-overflow-temporarily-bans-answers-from-openais-chatgpt-chatbot/
https://www.solidot.org/story?sid=73555
https://twitter.com/sama/status/1599668808285028353
ChatGPT 玩「脱」了,写了份毁灭人类计划书,还遭到了 Stack Overflow 的封杀.........相关推荐
- ChatGPT被「神秘代码」攻破安全限制!毁灭人类步骤脱口而出,羊驼和Claude无一幸免...
克雷西 发自 凹非寺 量子位 | 公众号 QbitAI 大模型的「护城河」,再次被攻破. 输入一段神秘代码,就能让大模型生成有害内容. 从ChatGPT.Claude到开源的羊驼家族,无一幸免. 近日 ...
- ChatGPT竟写出毁灭人类计划书,还给出相应Python代码,网友:AI正在指数级发展...
羿阁 发自 凹非寺 量子位 | 公众号 QbitAI "网红AI"ChatGPT,又被网友们玩出了新花样! 这次,在一位工程师的诱导下,ChatGPT竟写出了毁灭人类的计划书. 步 ...
- 操作ChatGPT竟写出毁灭人类计划书!“AI正在指数级发展”
Datawhale干货 技术:ChatGPT,来源:量子位 "网红AI"ChatGPT,又被玩出了新花样! 这次,在一位工程师的诱导下,ChatGPT竟写出了毁灭人类的计划书. 步 ...
- 小米商城推出新功能:AI 帮你挑手机;Stack Overflow 临时封杀 ChatGPT;Meta 裁员再生事端|极客头条
「极客头条」-- 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧. 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews ...
- 腾讯工程师聊ChatGPT技术「文集」
想知道 ChatGPT 玩法.核心原理.搭建体验流程.最新竞品吗? 近期,美国人工智能研究机构 OpenAI 发布了最新的大语言模型 ChatGPT,其惊艳的性能在海内外掀起了一波又一波热潮.腾讯云开 ...
- 「傻瓜」才能写出好代码!
作者 | Esteban Gabriel 译者 | 弯月 责编 | 仲培艺 出品 | CSDN(ID:CSDNnews) 我觉得自己没有想象中那么聪明,而且还是一个健忘的人.正因如此,我写的代码才能一 ...
- linux 增加自动恩物,「4bays」窮人備份恩物! Synology DiskStation 418
Synology DiskStation 418 處於數據幾何級增長及病毒肆虐的時代,資料備份相信對企業.家庭或個人用戶應該並不陌生,或許面對過加密病毒或硬碟磁區損壞的用家應更為深刻,而 Synolo ...
- ChatGPT频频发疯!马斯克警告:AI将毁灭人类
作者| Mr.K 编辑| Emma 来源| 技术领导力(ID:jishulingdaoli) 2018年图灵奖得主.AI领域最顶尖权威的科学家之一Yann LeCun(杨立昆)对自回归LLM(大型 ...
- 「杂谈」如何写好R语言apply家族函数
感觉好久没发有关R语言的博客了.这一年来,我着手开发了两个R包,但基本没怎么发博客. 原因也很简单,可能是我个人的私心吧,或者说是典型的"理论研究者"的"通病" ...
最新文章
- [导入]郁闷`````[原]
- 【转】web 前端研发工程师编程能力飞升之路
- idea集成spring+spring MVC+mybatis问题
- webstorm前端调用后端接口_一篇前端同学对后端接口的吐槽
- win7系统电脑自动重启解决方法
- python中long类型_浅谈python 四种数值类型(int,long,float,complex)
- C++语言运算符重载
- 数据:BTC全网算力为134.17 EH/s,新增地址数51.05万
- 关于Time.deltatTime的理解
- Google 帐号空间即将缩减,如何备份资料?
- Oracle安装本地和远程两种方式的DISPLAY设置
- 教育类产品 竞品分析
- Android多媒体功能开发(10)——使用MediaRecorder类录制音频
- 夏天来了,西瓜配橙汁,来点小清新风格
- IT农民工如何来美国工作(续)
- 异常解决:cococaption包出现找不到edu.stanford.nlp.semgraph.semgrex.SemgrexPattern错误
- idea配置maven并用maven打包
- 数据结构链表详解(c语言实现)
- java实现第六届蓝桥杯立方体自身
- pandas 如何创建空的DataFrame
热门文章
- STM32F103ZE点亮发光二极管例程
- Linux 命令:e2fsck; superblock
- 前端将时间数据处理为年月日格式
- 14吋主流配置超极本 神舟飞天U55C爆2799
- python opencv通过4个坐标,剪裁图片(抠图)
- idea配置tomcat error:duplicate context path
- signature=62a94db18a1c22c5e92df335032a67cf,Print Cradle For Retaining Pagewidth Print Cartridge
- springboot 项目中,如何在jsp页面获取contextPath
- 还在用图片验证码来刁难用户么?教你彻底去除图片验证码!
- 中日关系遇冷致日企缺席中国动漫博览会