凸优化第一【凸集与凸优化简介】
【本文仅供学习记录,概无其他用处,一些图片资源来自网络,侵删】
凸优化是一个简单的优化问题,优化-数学规划概念相同,本课程主要学习的内容包括:凸集、凸函数、凸优化和有关凸优化的一些算法。
优化:从一个可行解的集合中,寻找出最优的元素,如
数据拟合问题,散点,非曲线,最小二乘问题,多用户能量控制问题,图像处理优化问题,恢复不带噪声的图像,TV-L2模型,最短路径问题,约束问题。
优化问题三段定义【回忆】
两个或以上X*,构成最优解集
线性规划,单纯形法
最优解一般在顶点或边上
凸规划/非凸规划【凸规划问题,是容易解决的优化问题,非凸难解决】。
满足以下要求,为凸函数:
以上线性规划和下方凸规划相关,满足上则满足下
凸优化问题满足:
- 目标函数是凸函数
- 可行解集是凸集
凸函数:没法找到一些不相邻的最低的点
光滑/非光滑,连续/离散【针对可行域,都可能是非凸问题】
单目标/多目标, min f1,f2,pare front[]折衷,加权为单目标
凸规划、单目标。函数光滑容易,讲
目标:简化问题,描述优化,问题凸优化化=90%
主要内容:
皆可凸优化,平方
描述例1
仿射集【如凸集故事】:/仿射组合/凸组合
证明过程【两点推广到多点(三点)】:
与C相关的子空间V【这个平移x0的仿射集有很好的性质】:
如 ,
子空间一定是经过原点的,因为C一定有一点X0,而V减掉了它
证明:
线性方程组的解集一定是个仿射集
构造尽可能小的仿射集
仿射包:
两点直线可定,三点平面可定【全包含】
凸集:
仿射集是一个凸集的特例
X1,………Xk的凸组合:
凸包:一个集合构造【扩大】出来最简单的凸集
离散集合的凸包:边缘绑起来【包:包含】
锥,凸锥:【凸锥一定经过原点】
凸锥组合,凸锥包:
关系:
任意的一个点一定是仿射集,也是凸集
空集既是仿射集,又是凸集,又是凸锥
九个概念,组合思想:
超平面,半空间
多面体
球和椭球
证明球内凸集
椭球:XT A X
奇异值,ATA【对称,防止,特征值大于等于零,对其开方为A的奇异值】
奇异值是椭球两轴长
多面体
单纯形【是特殊多面体】的证明:
对称矩阵,对称半正定矩阵,对称正定矩阵三个集合都是凸锥:
可用定义证明
凸集:球,椭球,多面体【有很多面的,放的东西】,单纯形
单纯形定义:点,线性无关,凸包
矩阵空间
凸集变换:
- 凸集交集为凸集,两个凸集的和是凸的【S1+S2】,凸加非凸可能凸
- 凸集仿射变换【映射、逆映射】仍是凸集【例如皮球拉伸】
- 缩放与移位都是保凸的
线性矩阵不等式,的解集也是个凸集
椭圆是球的仿射映射
透视函数【降维】,最后一个为正
线性分数函数
凸优化第一【凸集与凸优化简介】相关推荐
- sql优化第一天,认识优化器和RBO中的等价改写SQL例子1
oracle有两种优化器,一种是基于成本的优化器CBO,一种是基于规则的优化器RBO,早期的版本使用基于规则的RBO优化器.从oracle10 g开始起,CBO已经成为比较成熟的优化器,但是要对sql ...
- 性能优化系列第一篇——数据库性能优化
本文章转载的Trinea大神的文章,文章原地址 http://www.trinea.cn/android/database-performance/ 性能优化之数据库优化 本文为性能优化的第一篇--数 ...
- 【机器学习】凸集、凸函数、凸优化、凸优化问题、非凸优化问题概念详解
目录 1 基本概念 2 凸优化问题 3 非凸优化问题 4 总结 1 基本概念 (1)凸集和非凸集 凸集是一个点集, 这个点集有一个性质, 就是在这个集合中任取不同的两个点x和y, 他们之间的线段(包括 ...
- 凸集 凸函数 凸优化
目录 写在前面 精简版概念理解 凸集 凸集的性质 凸函数 凸函数性质 凸优化 为什么要求是凸集呢? 为什么要求是凸函数呢? 判断是否为凸函数的简单办法 为什么区分凸优化和非凸优化 非凸优化问题如何转为 ...
- 凸优化学习:PART3凸优化问题(持续更新)
凸优化问题 凸优化问题的广义定义: 目标函数为凸函数 约束集合为凸集 一.优化问题 基本用语 一般优化问题的描述: minimize f 0 ( x ) subject to f i ( x ) ...
- 凸优化第四章凸优化问题 4.2凸优化
4.2凸优化 标准形式的凸优化问题 局部最优解与全局最优解 可微函数的最优性准则 等价的凸问题 拟凸优化 标准形式的凸优化问题 是凸函数,等式约束是仿射函数.则此优化问题是凸优化问题. 也可以写成 重 ...
- Python 优化第一步: 性能分析实践 使用cporfile+gprof2dot可视化
拿来主义: python -m cProfile -o profile.pstats to_profile.py gprof2dot -f pstats profile.pstats |dot -Tp ...
- 鲲鹏性能优化十板斧——鲲鹏处理器NUMA简介与性能调优五步法
TaiShan特战队六月底成立,至今百日有余,恰逢1024程序员节,遂整理此文,献礼致敬!希望能为广大在鲲鹏处理器上开发软件.性能调优的程序员们,提供一点帮助.从今天开始,将陆续推出性能调优专题文章. ...
- Mysql优化第一弹:彻底征服女朋友
人世仙家本自殊,何须相见向中途.惊鸿瞥过游龙去,漫恼陈王一事无. 嗨,大家好,我是洛神,性别男.一个来自快乐星球的程序员. 欢迎大家专注我的公众号[程序员洛神],我会不定期发放福利哟~ 前言 这篇文章 ...
最新文章
- Ubuntu下安装Stanford CoreNLP
- 请列举你了解的分布式锁_面试官想要你回答的分布式锁实现原理
- 使用组策略禁用注册表编辑工具
- 软件工程师的职业生涯
- 节后收心困难?这15篇论文,让你迅速找回学习状态
- Nginx自动安装脚本
- 新加入一个团体,如何能尽快的展开测试工作(转载)
- Web应用程序的开发步骤
- java中利用正则表达式获取a标签
- scala特性_Scala特性示例教程
- 我的2017——求职篇(一)
- TCP四次挥手的等待时间为什么是2MSL而不是1MSL
- python 输入正方形的边长、输出其周长和面积_C语言编程:从键盘输入一个正方形得长,计算并输出该正方形的内切圆的面积对正方形的覆盖率C语言编写设计一个计算正方形面...
- 螺旋城的灾难完全攻略及地图
- 简述人工智能发展的先决条件
- 电脑里的文件夹被误删了怎么恢复呢?几个步骤轻松解决
- 51cto mysql下载_安装Mysql服务_大神程序员养成之路-Mysql数据库基础_MySQL视频-51CTO学院...
- 途家木鸟美团夏日折扣对垒,门槛低就一定香吗?
- [架构之路-160]-《软考-系统分析师》-10-系统分析-7-数据与数据流程分析、需求规格说明书
- C++无名命名空间详解
热门文章
- (笔记)Mac下耳机左右声道不平衡(左边小右边大或者右边大左边小)的解决方法
- (翻译)Decision-Making in Driver-Automation Shared Control
- JAVA数据结构--Arraylist
- php怎么把gif变成jpg,如何将gif转换成jpg
- 论文笔记【Neural Collaborative Filtering】
- 长短期记忆网络LSTM
- JS中onpropertychange事件和onchange事件区别
- SSL证书的加密算法有哪些?
- 合成大西瓜之抱歉~ 我只有大西瓜和刀剑神域~!!
- C#数组维度转换:一维数组二维数组三维数组相互转换