文章目录

动机
待分析算法回顾
研究设计
- 可扩展优化任务
- 性能指标：
- 研究框架
通过变异操作观察到的结果
通过组合操作观察到的结果
分析
总结
参考文献

动机

随着对许多个（many）目标同时优化的应用需求不断增加，多目标进化优化算法（Multi-objective evolutionary algorithms, MOEAs）成为越来越流行的技术。然而，进化多目标优化 (EMO)的研究近年来（注意，本文发表于2007年）才开始逐渐地关注MOEA 向many-objective的可扩展性，而之前的研究通常依赖于单独的两目标测试问题来理解所提出算法的有效性。
值得注意的是，无论维度如何，权衡曲面（tradeoff surface）的确是存在的并且可以由MOEA种群来表示。但为什么在测试条件下MOEAs无法产生这样一个权衡曲面？
本文的研究动机在于通过实验深入探究那些（使用标准Pareto排序和多样性促进选择机制的）传统多目标演化算法在许多目标情况下的行为来回答上面的问题。

待分析算法回顾

将要研究的优化引擎可表示如下：
P[t+1]=ss(v(sv(P[t])),P[t]).P[t+1] = s_s(v(s_v(P[t])),P[t]).P[t+1]=ss(v(sv(P[t])),P[t]).
其中，P[t]P[t]P[t] 表示第ttt个迭代时刻的种群，svs_vsv表示selectionselectionselection-forforfor-variationvariationvariation算子，vvv是变化算子variationvariationvariation，sss_sss表示selectionselectionselection-forforfor-survivalsurvivalsurvival算子。svs_vsv可简单地理解为从种群中选择个体构成matingpoolmating~poolmating pool的过程，而sss_sss对应GA术语中的reinsertionreinsertionreinsertion。在已有的文献中，不同的多目标进化优化器一般可以根据svs_vsv和sss_sss的执行方式进行分类。

大部分MOEA选择机制同时包含两种带有可调参数和支持多样性度量的算子svs_vsv和sss_sss。在算法行为或性能的研究中，难以解剖所观察到结果的合理性。本文尝试通过分解算法以便于找到导致算法行为的核心组件，进而克服这个问题。

具体来说，本文考虑NSGA-II中的组件作为分析对象。进一步地，产生两种算法：
D1，表示仅使用Pareto支配。
D2，表示同时使用了Pareto支配和密度估计。
对D1和D2的分析具有一定的通用性，尤其是适用于具有一下特征的MOEA：

选择机制作用在全局种群模型上，其中种群规模由任意选择的上限界定（而不是由算法决定）。
选择机制仅根据帕累托支配进行区分；
选择机制同时根据帕累托支配和密度估计进行区分；
从支配关系和密度无法区分两个个体，那么选择不会偏向于其中任何一个解。

值得一提的是，选择机制之间的差异导致了不同的选择压力。例如，

研究设计

可扩展优化任务

实验数据来自一个是参函数优化任务——DTLZ2DTLZ2DTLZ2，其全局Pareto前沿是连续非凸的。DTLZ2(M)DTLZ2(M)DTLZ2(M)表示DTLZ2DTLZ2DTLZ2的一个具有MMM个目标的问题实例。

性能指标：

本文中，算法的性能是指，在给定的有限次演化过程中，优化器开发的折衷面（tradeoff surface）的质量。而“质量”通常用如下两个指标来表示：

近似性（proximity）指标：A variant of the generational distance metric [1]
分布性（distribution）指标：A variant of the Maximum spread [2]
如图1所示，理想情况下，优化器所得到的解应该是Pareto最优的，覆盖整个决策者感兴趣的区域（ROI），并且在真实折衷面的范围内接近均匀分布。本文，假设ROI就是整个Pareto前沿。

研究框架

本文所选框架主要用于探索数据分析而不是统计意义下的性能比较。
通过变异概率和期望幅度配置（记为{pm,ηm}\{p_m, \eta_m\}{pm,ηm}）的变化算子为权衡整个算法的探索和探测提供了合适的控制，在响应地图（response map）上用灰色方格表示。同时，用实线边缘的方格标记出高性能配置，即那些具有良好性能的区域（sweetsweetsweet-spotsspotsspots）。
具体来说，对于近似性，灰色越浅表示性能越好；而对于多样性，中间灰度表示最优性能（颜色越浅表示spread值太低，即最优解集过于集中。反之，颜色越深表示spread值太高，即最优解集过于分散）。

通过变异操作观察到的结果

A. 近似性行为
图2(a)画出了算法D1的三目标（M=3M=3M=3）问题上的近似性映射（proximity map）。而D2的相关结果展示在图2(b)中。从图中可以看出，两种算法在大范围的变异配置选择上产生了具有较好近似性的近似集合。

随着目标数的增加（M=6、12M=6、12M=6、12），近似性甜区（proximity sweet-spot）不断地收缩。

B. 多样性行为
从图3中可以看出，随着目标数的增加，良好分布的区域（sweet-spot）也在收缩。

通过组合操作观察到的结果

由上图可以看出，随着目标数的增多，算法D1和D2在组合算子配置上的甜区也在不断地收缩。

分析

本节内容通过两个概念：支配抵制（dominance resistance ）和主动多样性提升（active diversity promotion）解释了观察到的行为。

Dominance Resistance，主要是指在产生能够支配性能较差的当前解的新解时的困难。
从图6可以看出，在优化器初始状态下，对于100个个体的种群，非支配解的比例从M=3M = 3M=3时的0.30.30.3，上升到M=12M = 12M=12时的0.80.80.8。
进一步地，从图7中可以看出，随着演化过程的深入，对于全部M非支配解的比例迅速上涨到1.01.01.0。而且M值越大，该比例变化越快。因此，任何基于Pareto支配的svs_vsv机制将在很大程度上失去方向性。

另一方面，图8显示了变异算子产生新解支配其父代个体的能力。可以明显地看到，随着目标数的增加，新生个体支配其父代的能力下降。这是导致支配抵抗的主要原因。

如果只使用Pareto-based过程作为唯一的鉴别器，那么在svs_vsv和sss_sss阶段的支配性抵抗的综合影响会使得搜索停滞。实际上，在D1算法上可以观察到搜索停滞现象，而在D2算法上几乎没有出现停滞。在很多情况下，D2实际上已经偏离了全局的折衷面。这主要是因为D2中除了使用Pareto-based机制以外还使用了多样性增强过程作为额外的选择因素。
Active diversity promotion (ADP) mechanisms
在D2中采用了拥挤距离密度估计方法，如图9所示：

该密度估计器将较大的拥挤距离（或者说较小的密度）分配给如下三类候选解：边界解，其他远离Pareto-front的解（远解），以及临近这些远解的个体；

知道了D2中多样性保持机制的原理后，我们总结一下D2对于避免搜索停滞的贡献。
首先，随着冲突目标数的线性增加，目标空间的体积却呈指数增长；在固定种群规模情况下，这增加一个解远离其他解的机会，其远离折衷面，而且依然是局部非支配解。
其次，在这种情况下，D2中的ADP将使搜索偏向于靠近全局Pareto前沿的解。

Mutation 和 Recombination 之间的比较
基于之前的分析，二者之间存在许多不同之处。其中，

基本的差异在于，在基于重组算子的D2算法中，分散行为比基于变异的同等算法更加严重。
究其原因就是，这两种算子之间存在关键差别。对于一个特定配置的多项式变异（polynomial mutation, PM），其探索和探测的权衡设定是固定的，但是在模拟二进制交叉（simulated binary crossover, SBX）中，由于SBX分布的自适应特性（self-adaptive）这种设定是动态变化的。
在单决策变量的情况下，如果两个父代个体的值很接近，则预期SBX变化幅度小于两个父代个体值相距较远的情况。如果选择操作倾向于较差的近似值，那么收敛变量值将聚集在收敛较差的区域中。而且此区域中父代个体的比例大会使得自适应SBX算子进一步集中在这个区域。但是，D2中的多样性促进选择机制也会确保为分布变量保持完好的遗传多样性。所以，这些变量仍有可能进行大规模的探索。因此，SBX能够对较差近似性进行探测的同时进行多样性探索，这导致近似集在整体近似性较差的目标空间中广泛地分布。

总结

A. 一般性结论

从本文的研究工作可以看出，随着被优化的冲突目标数的变化，MOEAs的行为是会剧烈变化的。
在较少目标情况下观察到的算法行为不能推广到任意多个目标的情况。
随着冲突目标数量的增加，关于高质量近似集的甜区不断收缩，这使得优化器调优更具挑战性。
ADP在影响优化器的同时也可能对输出有潜在的伤害。
在MOEAs中，Pareto支配是主要的收敛指标，当非支配解较多时，单独基于多样性进行选择操作且通常作为第二选择算子。
在many-objective空间中，最好的多样性通常伴随着非常差的近似性值。因此，如果当前解是支配抵制的，那么搜索可能会远离真实折衷面，并解会在非最优目标空间中广泛分散。
即使ADP会对近似性带来挑战，但它在EMO中还是不可或缺的：因为没有ADP，EA将会面临遗传漂变并陷入局部收敛。

B. 未来工作
略

参考文献

[1]. D. A. V. Veldhuizen, “Multiobjective evolutionary algorithms: Classifications, analyses, and new innovations ,” Ph.D. dissertation, Air Force Inst. Technol., Wright-Patterson AFB, OH, 1999.
[2]. E. Zitzler, “Evolutionary algorithms for multiobjective optimization: Methods and applications,” Ph.D. dissertation, Swiss Federal Inst. Technol. (ETH), Zurich, Switzerland, 1999.

论文解读：On the Evolutionary optimization of Many Conflicting Objectives相关推荐

[论文解读]An Efficient Evolutionary Algorithm for Subset Selection with General Cost Constraints
An Efficient Evolutionary Algorithm for Subset Selection with General Cost Constraints 文章目录 An Effic ...
论文： Data-Driven Evolutionary Optimization： An Overview and case studies（1）数据驱动概念，文章结构，大数分类
声明: 只作为自己阅读论文的相关笔记记录,理解有误的地方还望指正论文下载链接: https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumb ...
进化计算在深度学习中的应用 | 附多篇论文解读
随着当今计算能力的大幅度提升和大数据时代的到来,深度学习在帮助挖掘海量数据中蕴含的信息和完成一些人工智能任务中,展现出了非凡的能力.然而目前深度学习领域还有许多问题亟待解决,其中算法参数和结构的优化尤 ...
论文：Insights on Transfer Optimization: Because Experience is the Best Teacher（１）文章结构以及以及自己的感觉
链接: IEEE Xplore Search Results https://ieeexplore.ieee.org/search/searchresult.jsp?newsearch=true&a ...
Paper：《A Unified Approach to Interpreting Model Predictions—解释模型预测的统一方法》论文解读与翻译
Paper:<A Unified Approach to Interpreting Model Predictions-解释模型预测的统一方法>论文解读与翻译导读:2017年11月25 ...
Paper：论文解读《Adaptive Gradient Methods With Dynamic Bound Of Learning Rate》中国本科生提出AdaBound的神经网络优化算法
Paper:论文解读-<Adaptive Gradient Methods With Dynamic Bound Of Learning Rate>中国本科生(学霸)提出AdaBound的 ...
多篇顶会论文看DRO (Distributionally Robust Optimization) 最新进展
©PaperWeekly 原创 · 作者 | 张一帆学校 | 中科院自动化所博士生研究方向 | 计算机视觉常见的算法使用经验风险最小化(ERM)的范式,有一个模型参数为 ,一个损失函数和数据分 ...
AprilTag: A robust and flexible visual fiducial system论文解读
AprilTags论文解读一.Apriltag是改进的ARToolkit. ARTag . 1.1 ARToolkit的劣势: A major disadvantage of this approa ...
论文解读：基于深度相机的3D建模 2020最新综述
点击上方"3D视觉工坊",选择"星标" 干货第一时间送达作者丨安如夏@知乎来源丨https://zhuanlan.zhihu.com/p/299489800 ...

论文解读：On the Evolutionary optimization of Many Conflicting Objectives