OpenAI发布通用人工智能路线图:AGI比想象中来得更快
来源:机器之心
本文约2600字,建议阅读5分钟
通用人工智能的出现可能只是技术发展历程中的一个小节点,因为 AGI 或许可以加速自身的进步,从而以指数方式扩展能力。
在 ChatGPT 引爆科技圈之后,人们对于先进技术产生了更多期待,但一直有专家警告 AI 可能造成的危害。我们知道,OpenAI 的使命是确保通用人工智能 —— 比人类更聪明的 AI 系统,能够造福全人类。近期,这家公司发布了「AGI 路线图」,详细解释了这家前沿研究机构对通用人工智能研究的态度。
在路线图中,OpenAI 对新技术的发展有了更加谨慎的态度,这可能意味着以后用户和应用范围会受到更严密的监控和限制。让我们看看 OpenAI 是怎么说的:
如果通用人工智能(AGI)最终被成功构建起来,这项技术不仅可以带来更多可能性,推动全球经济发展,也能改变新兴科学知识的发现,会从各种角度帮助人类提升生活水平。
AGI 有潜力赋予每个人不可思议的新能力。我们可以想象这样一个世界,在其中,所有人都可以获得几乎所有认知任务的帮助,它或许是人类才智和创造力的巨大力量倍增器。
但另一方面,正如一些人所担心的,通用人工智能也会带来严重的滥用、严重事故和社会混乱的风险。由于 AGI 的好处如此之大,我们不能认为让社会永远停止其发展是可取的方向,相反,社会和 AGI 的开发者必须要想办法把它做好。
与通用人工智能共同生活的未来图景难以预测,当前的 AI 进展可能会遭遇新的挑战,但在 ChatGPT 获得成功的当下,OpenAI 列出了我们最关心的几项原则:
1. 我们希望通用人工智能使人类能够在宇宙中实现最大程度的繁荣。我们不希望未来成为一个虚假的乌托邦,但我们希望将技术好的一面最大化,坏的一面最小化,让 AGI 成为人类善意的放大器。
2. 我们希望 AGI 的益处、接入和治理能得到广泛和公平的分享。
3. 我们要正确应对潜在风险。在面对这些风险时,理论上似乎正确的事情在实践中往往比预期更难以控制。我们必须通过部署功能较弱的技术版本来不断学习和适应,以最大程度地减少「无可挽回」的情况。
短期目标
OpenAI 认为,若为通用人工智能的发展做准备,有几件事要先做好。
首先,随着我们不断构建出更为强大的 AI 系统,我们必然希望快速部署 AGI 并获得在现实世界中操作它们的经验。谨慎管理 AGI 存在的最佳方式应该是逐渐过渡到 AGI 的世界。我们期望强大的 AI 能够加快世界进步的速度,OpenAI 认为最好是逐步适应这一点。
渐进的方式让人们、政策制定者和机构能有时间了解正在发生的事情,亲身体验这些系统的好处和缺点,调整我们的经济组织形式,并实施有效监管。渐进的方式还允许社会和 AI 共同进化,并允许人们在风险相对较低的情况下共同弄清楚自身所需。
OpenAI 目前认为,成功应对 AI 部署挑战的最佳方法是采用快速学习和谨慎迭代的紧密反馈循环。在新技术的冲击下,社会将面临「人工智能系统被允许做什么、如何消除偏见、如何处理工作岗位流失」等重大问题。最佳决策将取决于技术所采用的路径,并且与任何新领域一样,到目前为止,大多数的专家预测都是存在偏差的。这使得在预期外进行规划会非常困难。
一般来说,我们认为在世界上更多地使用 AI 会带来好处,并希望推广它(通过将模型放入服务 API 中,将它们开源等等)。OpenAI 相信,开放的访问也将导致更多更好的研究,吸引更多的人贡献新的想法。
OpenAI 表示,随着其开发的系统越来越接近 AGI,该机构在模型的创建和部署方面都变得越来越谨慎。
OpenAI 需要权衡部署大模型的利弊。一方面,部署先进的大模型是重要的科技进展;另一方面,部署模型之后,公司和机构也需要考虑如何限制恶意行为者、避免对社会和经济造成不良影响等问题。在这种情况下,OpenAI 表示将围绕持续部署来改进其规划。
其次,OpenAI 正在努力创建更加一致和可控的模型。从 GPT-3 的第一个版本到 InstructGPT 和 ChatGPT,这一步步的转变就是 OpenAI 在这个方向上努力的例子。
值得注意的是,OpenAI 认为有一点非常重要,就是人类社会需要就如何使用人工智能达成极其广泛的界限,而在这些界限内,个人用户有很大的自由使用权。OpenAI 希望最终世界能够就这些广泛的界限达成一致。
随着模型变得更强大,OpenAI 将需要开发新的对齐技术。OpenAI 的短期计划是使用 AI 来帮助人类评估更复杂模型的输出并监控复杂系统,而从长远来看,OpenAI 将会使用 AI 来帮助其提出新的想法以获得更好的对齐技术。
重要的是,我们需要在人工智能安全和能力方面共同取得进展,这二者不应该分开谈论。OpenAI 表示其最安全的工作来自于其最有能力的模型。也就是说,提高人工智能的安全性对 AI 研究进步非常重要。
第三,OpenAI 希望就三个关键问题展开全球对话:如何治理这些系统,如何公平分配它们产生的收益,以及如何公平共享访问权限。
除了这些,OpenAI 还提到在该公司的章程中有一个条款是关于协助其他组织提高安全性,而不是在后期 AGI 开发中与对手竞争。OpenAI 投资规则中对股东可以获得的回报设定了上限,这样研究机构本身就不会被激励去尝试无限制地获取价值,也不会冒险部署具有潜在灾难性危险的东西。
OpenAI 被一个非营利组织管理,以保证该机构是为人类的利益而运行(并且可以凌驾于任何营利利益之上)。
OpenAI 认为在发布新系统之前进行独立审查是 AGI 研究非常重要的一步。关于 AGI 工作应何时停止训练、确定模型可以安全发布或从生产使用中撤出模型的公共标准是很重要的。最后,OpenAI 认为世界主要政府应对超过一定规模的机器学习训练保持监管。
长远目标
OpenAI 相信人类的未来应该由人类自己决定,与公众分享有关进步的信息至关重要。我们应该对所有试图建立 AGI 的努力进行严格审查,并在重大决策上面向公众进行咨询。
从某种意义上说,第一个 AGI 将只是人工智能持续发展中的一个小节点,然后从这个节点开始不断衍生出新的进展。AI 的发展可能会在很长一段时间内保持我们在过去十年中看到的进展速度。
有一天,世界可能会变得与今天截然不同,但科技的进步也可能带给人类很大的风险。一个「错位的」超级智能 AGI 可能会对世界造成严重的伤害。
加速科学发展的人工智能将是一个值得思考的特例,这也许比其他任何事情都更有影响力。有足够能力加速自身进步的 AGI 可能会导致世界发生重大变化。也许 AGI 的发展在初期是比较缓慢的,但 OpenAI 预计给世界带来巨大变化的 AGI 在最后阶段一定会出现。
基于上述原因,OpenAI 认为 AGI 领域较慢的启动速度更容易确保安全,并且 AGI 在关键时刻减速可能也很重要。即使技术的进展让我们可以迅速发展 AGI,但减速的重要意义是要给社会足够的时间来适应。
成功过渡到一个拥有超级智能的世界可能是人类历史上最重要、最有希望,但也最可怕的项目。这种巨大进展的成功还远未得到保证,但我们已经可以预见的利害关系有望将所有人团结起来。
无论如何,那将是一个繁荣到我们还无法完全想象的世界。而 OpenAI 希望为世界贡献一个与这种繁荣相一致的通用人工智能。
参考内容:
https://openai.com/blog/planning-for-agi-and-beyond/
编辑:文婧
OpenAI发布通用人工智能路线图:AGI比想象中来得更快相关推荐
- OpenAI最新发布通用人工智能路线图!AGI比想象中来得更快!
点击下方卡片,关注"CVer"公众号 AI/CV重磅干货,第一时间送达 点击进入->[计算机视觉]微信技术交流群 转载自:机器之心 | 编辑:泽南.小舟 通用人工智能的出现可 ...
- 真无图的城市NOA,比你想象中来得更快
作者 | 赵悦鹏 编辑 | 汽车之心 点击下方卡片,关注"自动驾驶之心"公众号 ADAS巨卷干货,即可获取 点击进入→自动驾驶之心[高精地图]技术交流群 后台回复[高精地图综述] ...
- 业界丨OpenAI 发布通用人工智能研究纲领:以全人类的名义承诺
近期 Facebook 泄露用户数据.针对性影响用户.Uber 无人车事故,以及全球学者联名抵制韩国开发自主武器的事情再次敲响了人工智能安全的警钟.OpenAI 也于昨日发表了一份自己的研究纲领, 表 ...
- OpenAI 发布通用人工智能研究纲领:以全人类的名义承诺
作者:杨晓凡 近期 Facebook 泄露用户数据.针对性影响用户.Uber 无人车事故,以及全球学者联名抵制韩国开发自主武器的事情再次敲响了人工智能安全的警钟. OpenAI 也于昨日发表了一份自己 ...
- 4G千元卡位战爆发,4G比想象中来得更猛一些
4G市场会不会提前启动爆发?--目前看,这个答案是肯定的. 在4G牌照发放百日之后,制约4G快速跨越早期市场进入规模普及阶段的主要因素:终端.网络.资费三座冰山都已经或者在加速融化,中国通信行业正在静 ...
- 工业机器人的下一个竞争焦点已经非常明确:通用人工智能(AGI)
https://www.toutiao.com/item/6641830622346084872/ 2019-01-02 17:34:58 工业机器人的下一个竞争交点已经非常明确:通用人工智能(AGI ...
- 谷歌又在开发新AI框架!这次瞄准的是:通用人工智能(AGI)
关注公众号,发现CV技术之美 本文转载自新智元. 来源:Google 编辑:好困 LRS [导读]通用人工智能(AGI)的目标是训练的模型具有和人类相当的智慧,却惹得无数研究人员竞折腰.最近Jeff ...
- 最便宜的html手机,最便宜骁龙865手机发布了,价格比你想象中的还低!
今天下午,IQOO Neo3手机正式发布.这款手机的硬件配置在之前已经全部被爆料出来,唯独差一个价格不知道.很多网友在手机未发布之前猜测这款手机价格为2998元,但是这次IQOO Neo3的价格会让你 ...
- 苹果笔记本电脑好用吗_笔记本电脑市场格局重塑 可能比我们想象的来得更迅猛一些...
笔电市场也会和手机市场一样,经历一场彻底的品牌重置吗? 相信这是行业内很多人正在疑虑和感到不安的一个问题,但是不管你愿不愿意,改朝换代的趋势好像已经滚滚而来. 据Chnbrand发布的<2020 ...
最新文章
- Hibernate学习之hibernate状态
- html 宽度和高度,如何检索HTML元素的实际宽度和高度?
- Codeforces Round #420 (Div. 2)
- wxWidgets:wxMBConv概述
- boost::mp11::mp_set_union相关用法的测试程序
- 【ArcGIS风暴】在ArcGIS中实现将一个圆16等分
- xtext_使用Xtext为Eclipse和IntelliJ开发DSL
- 80年代出生人坦白十大尴尬事80一代全搜集
- 岗位理解_如何正确理解策划岗位
- .net core平台使用遇到的坑
- python国外文献_python的英文文献
- 骚操作!快速创建JSON数据和解析JSON数据
- 无器械健身锻炼全身肌肉的方法
- 是非人生 — 一个菜鸟程序员的5年职场路 第14节
- 目标感强的人究竟有多厉害,我们采访了100位牛人
- Mysql在表中添加约束条件
- 对nii医学图像进行重采样
- rest php,使用php创建一个Rest Api
- 浅谈绝对定位与相对定位
- sort,ksort,asort的区别
热门文章
- vue中html导出到word
- VMware17虚拟机Linux安装教程(详解附图,带VMware Workstation 17 Pro安装)
- 最简单的软件封面制作方法
- 如何规避微信公众号交易市场的风
- redis如何存、取对象
- 某次 ctf Mobile 0x01 解题过程
- SparkStream从kafka读取数据编码问题(Java)
- Make3D:从单个静止图像学习3D场景结构(论文2007)
- 学校图书馆计算机书籍,学校图书馆共有 300 万册图书,想统计其中 Compute
- python四维数组代表图像_【Python进阶】你真的明白NumPy中的ndarray吗?