CMA-ES算法解决连续优化问题

2024-05-17 09:56:41

一、算法介绍

CMA-ES是Covariance Matrix Adaptation Evolutionary Strategies的缩写，中文名称是协方差矩阵自适应进化策略，主要用于解决连续优化问题，尤其在病态条件下的连续优化问题。进化策略算法主要作为求解参数优化问题的方法，模仿生物进化原理，假设不论基因发生何种变化，产生的结果（性状）总遵循这零均值，某一方差的高斯分布。注意这里进化策略和遗传算法不同，但是都是进化算法（EAs）的重要变种。

二、算法实现

三、主要特点

1. 使用多变量的正态分布产生新的搜索点

-遵循最大熵原理
x⃗ i∼m⃗ +σN(0,C)\vec x_{i}\sim \vec m + \sigma \mathcal {N}(0, C) for i = 1, 2, …, λ\lambda

2. 基于排序的选择过程

-暗含了不变性，对于g(f(x))来说具有相同的性能，g是增函数

3. 步长控制使得快速收敛更加便捷

-基于进化路径

4. 协方差矩阵自适应算法增加了成功步长的似然性，可以根据问题规模的数量级改善性能。

-C∝H−1⟺调整变量的类型，由海森矩阵等价成更为简单的协方差矩阵C\propto H^{-1} \Longleftrightarrow 调整变量的类型，由海森矩阵等价成更为简单的协方差矩阵
-⟺产生一种新的问题表示方法\Longleftrightarrow 产生一种新的问题表示方法
-⇒f(x)=g(xTHx)问题简化为g(xTx)\Rightarrow f(x) = g(x^THx) 问题简化为g(x^Tx)

CMA-ES算法解决连续优化问题相关推荐

对比 GA 、PSO 、DE三种算法求解连续优化问题的性能
摘要: 演化计算又称为进化算法.进化计算,是一种元启发式方法.搜索过程是从一个初始解的集合(称为初始种群)开始的,种群中的每一个解都沿着一定的轨迹搜索,每前进一步称为种群的进化,得到的解集称为种群的一 ...
迭代硬阈值(IHT)算法解决CS优化目标函数
版权声明:本文为博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明. 题目:迭代硬阈值(IHT)的补充说明本篇是对压缩感知重构算法之迭代硬阈值(IHT)的一个补充 ...
退火算法解决简单优化问题
退火算法基本思想在此不再赘述,可参考本文.模板如下: T0 = 1000; % 初始温度 T = T0; % 迭代中温度会发生改变,第一次迭代时温度就是T0 maxgen = 500; % 最大迭代次 ...
微分进化算法解决函数优化问题的matlab代码,Matlab微分进化算法及优化函数测试...
微分进化(Difference Evolution,DE)算法是一种优化算法,据称其比GA(遗传算法)等更为优秀. 借鉴网上实现的DE算法,用Matlab实现了对若干函数优化问题的解法,代码如下: f ...
基于 PSO 算法解决 TSP 项目
PSO (Particle Swarm Optimization) 算法即粒子群优化算法,源于对鸟群捕食行为的学习.基本思想是:个体获取的局部信息提供给群体,群体根据所有局部信息获得一个动态的全局最优 ...
MAT之ACA：利用ACA解决TSP优化最佳路径问题
MAT之ACA:利用ACA解决TSP优化最佳路径问题目录输出结果实现代码输出结果实现代码 load citys_data.mat n = size(citys,1); D = zeros(n ...
集货运输优化：数学建模步骤，Python实现蚁群算法（解决最短路径问题），蚁群算法解决旅行商问题（最优路径问题），节约里程算法
目录数学建模步骤 Python实现蚁群算法(解决最短路径问题) 蚁群算法解决旅行商问题(最优路径问题) 节约里程算法
生物效应大数据评估聚类算法的并行优化
生物效应大数据评估聚类算法的并行优化彭绍亮1,2,杨顺云2,孙哲1,程敏霞1,崔英博2,王晓伟2,李非3,伯晓晨3,廖湘科2 1. 湖南大学信息科学与工程学院&国家超级计算长沙中心,湖南长 ...
最小生成树 Kruskal 和 Prim算法及堆优化
目录生成树/最小生成树是什么. 一.Kruskal算法 Kruskal模板二.Prim算法及堆优化 1.遍历 Prim 普通模板 2.堆优化 Prim 堆优化模板解决最小生成树的问题之前,我们先 ...

最新文章

热门文章