Largevis算法

Largevis是国内某博士在TSNE基础上加工得到的一种新型算法，其改进处在于用一种半并行的树搜索算法+低维空间中基于核距离的概率分布，并采用了大量的百万级以上数据作为例子，画出了非常炫酷的散点图，我只能说他的计算机太厉害了，SNE系列的算法一直都有一个最大的毛病，就是计算成本大，消耗内存，每次迭代都需要所有样本参与进行。

在计算高维分布之前，邻域图的重建采用以下算法，就是多个点同时进行遍历更新，总体上没什么特别出彩的地方：

计算高位空间中的条件概率分布传承了TSNE的做法：

计算低维空间中的条件概率分布，用了距离+核函数作为其概率，当然，最后都需要加上一个总体的重心：

损失函数依然是两个分布的KL散度，不过，作者没有介绍出这种方法的下降梯度，理论上来说，最原始的SNE的梯度和TSNE的梯度都能近似这里的下降梯度，但是更精准的梯度能帮助更快达到最优，尤其是接近最优点时（当然啦，这里有没有最优点还未可知）

作者给出了很炫酷的图，这里分享一下，拜谢TangJian博士。

数据集介绍：

Largevis算法相关推荐

Mila唐建博士《图神经网络:算法与应用》研究进展
来源:大数据文摘本文附pdf,建议阅读5分钟本文总结了<图神经网络:算法与应用>研究进展. 图神经网络是当下研究的热点之一.HEC 蒙特利尔大学商学院助理教授唐建唐建博士在CIFAR D ...
《深度学习，统计学习，数学基础》人工智能算法工程师手册：程序员写的AI书，50 章一网打尽...
来源:专知本文约3400字,建议阅读10+分钟. 免费开源人工智能手册,带你快速上手写代码! [ 导读 ]市面上很多人工智能相关的书籍.大部分的书,面向小白,内容深度不够:小部分教材书或者科研书,内 ...
蒙特利尔大学助理教授唐建《图表示学习:算法与应用》研究进展
点上方蓝字计算机视觉联盟获取更多干货在右上方 ··· 设为星标 ★,与你不见不散仅作分享,不代表本公众号立场,侵权联系删除转载于:专知 AI博士笔记系列推荐周志华<机器学习>手推笔 ...
《深度学习，统计学习，数学基础》人工智能算法工程师手册
[ 导读 ]市面上很多人工智能相关的书籍.大部分的书,面向小白,内容深度不够:小部分教材书或者科研书,内容艰深,又过于复杂.那么有没有,面向算法工程师(程序员)人群的,面向有一定数学基础.算法基础,能 ...
《AI算法工程师手册》
本文转载自:http://www.huaxiaozhuan.com/ 这是一份机器学习算法和技能的学习手册,可以作为学习工作的参考,都看一遍应该能收获满满吧. 作者华校专,曾任阿里巴巴资深算法工程师, ...
五、降维——从SNE到t-SNE再到LargeVis
0x00 前言本文谢绝转载,如有需要请联系bindog###outlook.com,###换成@ 数据可视化是大数据领域非常倚重的一项技术,但由于业内浮躁的大环境影响,这项技术的地位渐渐有些尴尬.尤 ...
从SNE到t-SNE再到LargeVis
0x00 前言本文谢绝转载,如有需要请联系bindog###outlook.com,###换成@ 数据可视化是大数据领域非常倚重的一项技术,但由于业内浮躁的大环境影响,这项技术的地位渐渐有些尴尬.尤 ...
高维信息降维可视化常用算法比较
我们人类比较容易理解三维以内的信息,在做数据分析挖掘以前,先要对数据集有个浅显的认识,比如统计分布.可视化.相关性等.这里引入了常用降维算法模型原理,对MNIST 784维数据做可视化和结果对比展示, ...
golang通过RSA算法生成token，go从配置文件中注入密钥文件，go从文件中读取密钥文件，go RSA算法下token生成与解析；go java token共用
RSA算法 token生成与解析本文演示两种方式,一种是把密钥文件放在配置文件中,一种是把密钥文件本身放入项目或者容器中. 下面两种的区别在于私钥公钥的初始化, init方法,需要哪种取哪种. 通过 ...

Largevis算法

Largevis算法相关推荐

最新文章

热门文章