算法收敛性以及收敛速度的理解
最近在看资料时,遇到了这样的说法“某某算法具有收敛快的优点”,于是便有点疑惑:收敛不是函数或者数列才有的概念吗?用到算法上是代表什么意思呢?遂查阅资料,将一点理解记录如下。
算法收敛性
算法的收敛性就是指某个算法能否在迭代时间趋于无穷的假设下,最终找到问题的全局最优解。这里有一点要明确:算法收敛性是迭代法中的一个概念,所以主要针对跟迭代相关的算法,如进化算法。对于能够一次求解的直接法,就不在算法收敛的讨论范围之内了。
算法收敛速度
知道了算法收敛性的含义,再来理解算法收敛速度就比较容易了。百度百科对算法收敛速度是这样解释的:
在数值分析中, 一个收敛序列向其极限逼近的速度称为收敛速度(Rate of convergence). 该概念多用于最优化算法中; 其被定义为一个迭代序列向其局部最优值逼近 (假设计算过程收敛, 并能达到最优值) 的速度, 是评价一个迭代法于该问题中发挥的性能的一个重要指针。
说白了,算法收敛速度就是指算法需要经过多少次迭代才能得到最优解。很明显,有些算法的收敛性好,有些算法的收敛性差,所谓收敛性好就是收敛得快,快速收敛的意义就是使用较少的迭代次数便可得到相对精确的值,或者说是在允许的时间内得到满意结果。因此,能以较快速度收敛于最优解的算法,才能称得上一个好算法。
最后再贴一段关于收敛性的论述来帮助理解:
仅仅知道算法是收敛的还远远不够,收敛性的结论是建立在无穷迭代时间基础上的,而实际应用中的计算迭代时间是有限的。收敛性研究只能回答进化算法在迭代无穷次后最终会不会找到全局最优解,而不能回答算法实际究竟要花多长时间(迭代多少次)才能找到最优解,很难在实践中用于指导算法设计和改进。
算法收敛性以及收敛速度的理解相关推荐
- Pymoo:优化算法收敛性的实例分析
Pymoo:优化算法收敛性分析的实现方法 一.优化问题的定义与优化算法的结果分析 1.1 优化问题的定义与必要的算法中间信息的获取 1.2 Constraint Satisfaction (约束满足) ...
- CORDIC算法收敛性证明
CORDIC算法收敛性证明 cordic算法通过·移位.加减.简单乘除与迭代即可实现三角函数值的转换, 详细的作用.优缺点基本原理与实现介绍,参考如下两篇博客: https://www.eefocus ...
- 最优化学习 算法收敛性
算法收敛性 梯度下降法 分析算法收敛性 - 精确线搜索exact line search 分析算法收敛性 - 非精确线搜索Inexact line search(Amijo Rule) 全部笔记的汇总 ...
- 单应性矩阵的相关理解
版权声明:本文为博主原创文章,未经博主允许不得转载. https://blog.csdn.net/zinnc/article/details/52319491 尽量写的通俗一点,因为从某种程度上讲,本 ...
- Restful(表象性状态转移)的理解
作者:覃超 链接:https://www.zhihu.com/question/28557115/answer/48094438 来源:知乎 著作权归作者所有.商业转载请联系作者获得授权,非商业转载请 ...
- EM算法(算法原理+算法收敛性)
接着高斯模型之后把EM算法的理论部分梳理了一遍,自己也学到很多知识,继续努力.
- 事务一致性性与原子特性理解
一致性:除了依赖与原子特性外,还需要逻辑正确,才能最终保证一致性,可以类比能量守恒,这个讲个是符合预期 原子性:要么全成功要么全失败,这个强调完整性 转载于:https://my.oschina.ne ...
- 单应性矩阵的理解及求解3
http://www.sohu.com/a/223594989_100007727 前面文章<从零开始学习「张氏相机标定法」(一)成像几何模型>中我们已经得到了像素坐标系和世界坐标系下的坐 ...
- 计算机视觉学习笔记(四)homography 单应性矩阵的理解及求解
单应性矩阵的理解及求解 1. 齐次坐标(Homogeneous Coordinate) 一幅2D图像上的非齐次坐标为(x,y),而齐次坐标为(x,y,1),也可以写成(x/z,y/z,1)或(x,y, ...
最新文章
- Livox 开源分享:关于激光雷达去畸变的那些事儿
- 2021年春季学期-信号与系统-第三次作业参考答案-第九道题
- ansible的系统模块8
- AT2365-[AGC012E]Camel and Oases【状压dp】
- table 多行 宽度不一致_“table”除了桌子,你还知道一些别的意思吗?
- 手机应用开发的方式不能完全套用到iPad上
- React Native 一些事
- imu与gps之间的时间戳_TCP 窗口缩放、时间戳和 SACK(2) | Linux 中国
- 多线程join方法解析
- 产品研发过程管理专题——基于产品的测试管理(用友软件测试流程初探)
- Open3d之RGBD测程法
- 使用 IntraWeb (14) - 基本控件之 TIWHRule、TIWRectangle
- 汉字编码-GB2312-GBK-GB18030-Big5
- LVS_DR+keepalived(内涵理论与实验)
- 计算机网络学习——套接字实验(二)
- 基于jQuery实现王者荣耀英雄自定义增删改查功能 源码
- 山东理工大学ACM平台题答案关于C语言 2101 正方形面积
- android 打开其它app,Android 在一个APP里打开另一个APP
- 光伏电池PV建模,基于Boost/Buck电路实现最大功率追踪MPPT,包括扰动观察法
- 科技系列 - 1 :判断键盘上的某个键按下 :KEY_DOWN
热门文章
- php with函数,string - PHP中的startsWith()和endsWith()函数
- laravel 发送邮件随记
- 3dsMAX中R键的用法
- java中404什么意思_java web中关于404问题的根本来源与解决
- 百度贴吧头像上传无尺寸限制
- linux卡利系统设置密码,Kail Linux2019.04更新:新增“卧底模式” 模拟Win10界面
- Linux系统中OpenSSH的安装和配置(转)
- perl正则表达式匹配中文
- Mock-Server搭建
- OpenSSL ssL_read: Connection was aborted,errno 10053 报错