版本:0.1

在计算机中,二进制是最基本的计数单元,这也是能够表达信息所使用的最小进制。而实际上当今大部分计算机的CPU计算的带宽已经到了32或者64位,而内存、显卡的芯片位数已经提高到了256,甚至更高。这些数字都是二进制的倍数,所以能和二进制很容易的转换。二进制是由1和0组成的,我们可以给不同的1和0不同的含义。通常情况下1和0就是“有”和“无”。很少会用来表达,“正”和“负”。“正负”通常是在“1”和“0”的基础之上构建的概念,而不是直接用“1”和“0”来表达。比如一般计算机内用数个字节表示一个数字,只用最高字节的最高位作为符号位,即正负。其它位都用来表达数值本身。

人脑中的处理数据的进制是多少呢?人脑是一个模拟的计算系统,不是为了精确的数值计算优化的。从细胞层面来看,每个神经元细胞有成千上万的连接,可以认为是无法衡量的。假设神经元整合的结果只有“有”和“无”,则可以看作是二进制的。但神经元内部也许不是简单的1和0,内部可能会对输入的信号进行累计。而不像普通计算机一样,每次计算完后就重置状态。

人脑中的神经元在整合信号后,若达到了阈值则会发出信号。而发出的信号有些可能会让下一级继续发出信号,有些则会减小下一级发出信号的可能性。这些能发出减弱下一级信号的神经元就是抑制神经元。在生物中,抑制信号是依靠不同的介质实现的,在计算机中如果要实现抑制,可以依靠正负值来实现。

那么抑制神经元的意义是什么呢?假设神经网络中有足够的能量,且网络已经充分发展了,不会产生振荡。当输入信号不断进入时,神经网络也在不停地进行计算。假设系统中没有抑制神经元,大部分神经元在不停地响应外界的输入,在达到阈值时产生输出。我们先从单个神经元的思考层次上提高,思考一下大规模神经元的行为。在信号不停的输入下,网络的能量在不停的转换,信号在不停的往正确的目的神经元传送。一旦信号到达了正确的目的神经元,则系统能够正确的响应输入了,要么整个系统的知识更新完成了,要么开始产生输出了。至此为止,还没有什么问题。但下一个输入可能是和当前的内容风马牛不相及的,整个系统需要对新的信息进行新的处理。这时候由于没有抑制神经元,整个神经系统的状态转换可能就会滞后,从而无法对外界输入及时响应。

我们也可以从逻辑和现实世界上推导出抑制神经元的意义。假设有一个轨道,上面有个小车。这个小车可在轨道上前、后移动,且移动中会有一定的摩擦力。假设只能给轨道上的小车向前的力。那么小车可以按照需要向前运动,从而到达远处的目的地。假设需要让小车停在离目的地一定误差范围内的位置,要么在给小车向前的推力时精确计算从而使小车能够正好在目的地附近使得推力和阻力相抵消而停下来,要么通过施加阻力来精确控制小车的前进速度,甚至让其倒退来到达目的地。由此看到,如果只能对小车施加推力,即使通过用很小力度的不断尝试,也有可能一下子超过了目的地,一旦超过则无法回退。而在能对小车施加阻力的情况下,不需要太精确的控制力度,在推力、阻力的不断迭代下,最终是能够将小车停在目的地上的。在真实情况中,摩擦力可能不是恒定的,每次预计施加的推力和实际的推力可能也不一致,如果仅通过调整推力来控制小车停下来的位置是非常难的。由此,抑制机制的好处显而易见,它可以大大降低计算复杂度,从而通过较粗糙的控制和简单的计算迭代出较精确的结果。

除了能够减少计算复杂度外,再来看看抑制神经元在神经网络中其它可能的作用。神经网络有一个很重要的功能,就是联想。小范围的联想也可称其为预测。联想是智能很重要的一个功能和表现。如果一个系统没有联想和预测功能,基本就只能滞后地处理输入,没法称其为智能系统,或者可认为外界无法知道其是一个智能系统。而抑制神经元在联想的过程中可用作整合和比较联想、预测结果,及时“刹车”。从而让系统能够在预测失败后能够尽快调整,以便基于新的输入进行新的预测,从而有机会提前产生响应。联想也是如此,通过抑制神经元屏蔽掉无用的联想,使得选择出的神经元能够更快的和上下文联系起来。

问题是,抑制神经元是如何产生的?有两种可能性:1)也许在大脑生长过程中,抑制神经元就以一定的比例出现了,它们和普通神经元的自组织形式类似,唯一区别是它们的输出的是抑制信号。2)另一种可能性是抑制神经元是一些普通神经元转化而来。可能有某种刺激的存在,从而造成其发生质的变化。这种假设的挑战是,如果一个神经元转化成了抑制神经元,那么它的所有突触的意义就翻转了。这个翻转是否有现实意义呢?

在神经网络中,抑制神经元也许代表着某一类特殊的模式。当发现某些模式在很大规模下仍然无法有效的完成任务,就可以通过添加抑制神经元的方法来优化。但这种方法的前提是依靠全局的优化,而不是神经元的自组织的方法。神经元自组织时也许很难发现长程上的问题,但很多规模上的效率也许是能在单个神经元的作用范围内判断出来的。

强人工智能:抑制神经元的意义相关推荐

  1. 怎样实现强人工智能?

    作者:费特杨 链接:https://www.zhihu.com/question/335967593/answer/768278411 来源:知乎 著作权归作者所有.商业转载请联系作者获得授权,非商业 ...

  2. 强人工智能基本问题:自上而下还是自下而上?

    人类智能在宏观上有心理学,微观上有分子生物学等学科研究.但每个方向研究到一定阶段就停滞了,没有哪个学科能告诉我们:为什么能有智能,如何才能产生智能.即使已经了解了大脑的很多知识,人类智能仍然是个黑盒子 ...

  3. 强人工智能基本问题:自上而下还是自下而上? 1

    2019独角兽企业重金招聘Python工程师标准>>> 人类智能在宏观上有心理学,微观上有分子生物学等学科研究.但每个方向研究到一定阶段就停滞了,没有哪个学科能告诉我们:为什么能有智 ...

  4. 强人工智能基本问题:全局控制与自组织

    版本:0.1 前文介绍过,大脑是非常复杂的,研究强人工智能需要参考大脑的结构和算法,来理解并创造智能.人脑算法.结构的秘密都隐藏在DNA和人存在的世界中.从现在的哲学和科学的认知来看,可认为人脑是自组 ...

  5. 国际泰斗:现在谈强人工智能为时尚早

    http://blog.itpub.net/29829936/viewspace-2554399/ 人工智能快速发展,在许多领域取得重大影响,使得不少人担心可能会出现超级智能.DeepMind的联合创 ...

  6. 张泽生(ruiaijun)老师的强人工智能理论

    引言:          张泽生(runaijun)老师的自编程理论非常好,它好就好在不需要我们去研究人脑的物理结构就可以实现强人工智能.因为不管用什么理论来实现强人工智能,最终都是要用(母)程序和数 ...

  7. 什么是强人工智能,强人工智能的实现,需要具备哪些条件?

    https://www.toutiao.com/a6666346528631685646/ 强人工智能又称通用人工智能或完全人工智能,指的是可以胜任人类所有工作的人工智能,人可以做什么,强人工智能就可 ...

  8. 培育强人工智能的「ImageNet」:上海交大卢策吾组提出铰接物体知识库 AKB-48

    来源:前沿科技 编译:OGAI 编辑:陈彩娴 ImageNet 的出现极大推动了计算机视觉领域的发展.在通往强人工智能的路上,我们还需要考虑物体的外观.结构.物理性质.语义等因素.为此,上海交大卢策吾 ...

  9. 周志华:严肃的研究者就不该去触碰强人工智能

    来源:知识分子 概要:关于人工智能,长期存在两种不同的目标或者理念. 关于人工智能,长期存在两种不同的目标或者理念.一种是希望借鉴人类的智能行为,研制出更好的工具以减轻人类智力劳动,一般称为" ...

  10. 当强人工智能时代来临,哪些人不会失业?

    大数据(ID:hzdashuju)在长假期间 给你推送6篇入门级科普,包括: 数据与隐私 | 自动驾驶 | AI与就业 黄金比例 | 量子计算机 | 数据科学职业 另外还为既聪明又努力的孩子们 准备了 ...

最新文章

  1. command not found: shopt 的 ~/.bashrc
  2. 机器学习一定要很优秀才能做嘛?其实我们都可以。
  3. kotlin 二进制_Kotlin程序检查数字是否为二进制
  4. 非暴力拆解:小熊派NB-IoT通信扩展板
  5. aotuwried是java的注解吗_@autowire注入为null
  6. hdu3094 A tree game
  7. linux系统支持多种硬件平台吗,linux操作系统对硬件的要求是多少
  8. Win10系统怎么看隐藏文件夹
  9. python中for in循环结束才能执行后面的语句吗,python中for-in循环、while循环、if语句、input()函数、流程控制语句break和continue...
  10. TakeColor鼠标位置不对/取色不准
  11. java 鼠标驱动模拟,dd虚拟键盘鼠标模拟软件
  12. mysql:Prepared statement needs to be re-prepared解决办法
  13. PAT_乙级_1008_筱筱
  14. android 禁用触摸屏,如何在Android手机中禁用触摸屏?
  15. 大数据分析界的“神兽”Apache Kylin初解
  16. 3D打印美容设备MagicBox
  17. 前端请求异步与同步的区别
  18. ABB KUC321AE HIEE300698R0001、KUC755AE106 3BHB005243R0106、KUC711AE 3BHB004661R0001、KUC720AE01
  19. git add . 报错‘xxx/’does not have a commit checked out,fatal: adding files failed
  20. Gamma阶段第三次scrum meeting

热门文章

  1. 一文看懂微服务,阿里云原生资深专家李国强独家分享
  2. oracle undo head,一次悬挂事务的处理思路
  3. 倒计时按钮_倒计时牌都不会做,妹子何必嫁这货
  4. 【TSP】基于matlab遗传算法求解旅行商问题【含Matlab源码 1337期】
  5. 【优化覆盖】基于matlab虚拟力算法求解无线网络传感覆盖优化问题【含Matlab源码 1187期】
  6. 【图像分割】基于matlab GUI多种阈值图像分割(带面板)【含Matlab源码 733期】
  7. 【图像隐写】基于matlab GUI LSB图像隐写【含Matlab源码 713期】
  8. 【语音识别】基于matlab GUI BP神经网络0到10数字语音识别【含Matlab源码 672期】
  9. 【数字信号】基于matlab 8级m序列【含Matlab源码 353期】
  10. 【图像配准】基于matlab SIFT图像配准【含Matlab源码 148期】