最优传输理论与计算学习笔记1

次微分的例子：
考虑凸函数f(x)=|x|。在原点的次微分是区间[−1, 1]。
紧集：
在数学中，如果欧几里得空间 Rn 的子集是闭集合且是有界的，那么称它是紧致的。
利普希茨连续:
在数学中，特别是实分析，利普希茨连续（Lipschitz continuity）以德国数学家鲁道夫·利普希茨命名，是一个比通常连续更强的光滑性条件。直觉上，利普希茨连续函数限制了函数改变的速度，符合利普希茨条件的函数的斜率，必小于一个称为利普希茨常数的实数（该常数依函数而定）.
可数集：
可数集，或称可列集，是与自然数集的某个子集具有相同基数（等势）的集合。
紧集是完备的，Rn是可分的：
https://www.bilibili.com/video/BV18A41157B4?from=search&seid=12302125890121465140&spm_id_from=333.337.0.0
老顾2020年讲座第一集：10：00 从第28分半左右开始听不懂了

https://www.bilibili.com/video/BV1qQ4y1q7V8?spm_id_from=333.999.0.0
顾2021年讲座：
29分，每一类数据——指所有的数字1图片组成一个类或所有的数字2图片组成一个类或所有的数字3，4，…9组成一个类，可以抽象成2维曲面上的一个概率分布。
46:56：这里讲的似乎不对，生成器也能接收到来自判别器的梯度信息
49分左右——奇异集合这一块不是很懂。奇异集合就是里面含有使深度神经网络梯度出现跳变，不是连续的（势能函数在红色曲线处不可微，只是连续的），这使得深度学习无法学到。
53：30：概率为0的人脸，代表穿过了集合的奇异集

最优传输理论与计算学习笔记1相关推荐

统计深度学习与最优传输理论，传统方法vs深度学习，符号主义与联结主义
统计深度学习与最优传输理论,传统方法vs深度学习,符号主义与联结主义统计深度学习与最优传输理论传统计算机视觉方法与基于统计的深度学习方法符号主义与联结主义本文多处摘引自当深度学习遇到3D ...
TPAMI 2022｜基于最优传输理论的无监督图像重建学习
作者丨王炜来源丨上海交通大学类脑智能应用与技术中心编辑丨极市平台论文地址:https://ieeexplore.ieee.org/document/9763342 开源地址代码:https:// ...
中国人工智能学会通讯——最优传输理论在机器学习中的应用 1.1 最优传输理论与 WGAN 模型...
最优传输理论是连接几何和概率的桥梁, 它用几何的方法为概率分布的建模和衡量概率分布之间的距离提供了强有力的工具.最近,最优传输理论的概念和方法日益渗透进机器学习领域,为机器学习原理的解释提供了 ...
光影变幻：自动化所基于最优传输理论的影视换脸技术
本文转载自中国科学院自动化研究所. (影视剧换脸结果素材来源自网络) 科技改变影视生态赋予机器类人创造力,使之能够自动理解和编辑影像是人工智能领域的前沿方向. 中科院自动化所智能感知与计算研究中心 ...
海天讲座（二）最优传输理论
由于原链接公式看不到,所以转了下,如有侵权,联系删除 2016 这篇文章里说了应用最优传输理论解保面积参数化问题,之前有看过将保面积参数化转化为线性问题的文献,效果也不错. 图1. 最优传输理论在计算 ...
海天讲座（四）最优传输理论
由于原链接公式看不到,所以转了下,如有侵权,联系删除 2016 公元2016年2月11日上午,加州理工学院,麻省理工学院以及"激光干涉引力波天文台(LIGO)"的研究人员在华盛顿宣 ...
优达学城-深度学习笔记（一）
优达学城-深度学习笔记(一) 标签: 机器学习优达学城-深度学习笔记一一神经网络简介最大似然概率交叉熵Cross entropy 1交叉熵代码实现 2多类别交叉熵对数几率回归的误差函数co ...
海天讲座（三）最优传输理论
由于原链接公式看不到,所以转了下,如有侵权,联系删除 2016 农历小年附近,老顾从北京回到纽约.与北京火爆热烈的节日气氛相比,纽约的氛围孤独寂寥,冷漠凄清.与几位访问学者和学生漫步在长岛石溪海滩,气 ...

最优传输理论与计算学习笔记1