可变自动编码器(VAE)

参考1

生成建模最常用的两种方法是生成对抗网络(GAN)和可变自编码器(VAE)
自动编码器(Auto Encoder)是一种自监督的神经网络，它学习如何将输入编码为更低的维数，然后再次解码和重构数据以尽可能有效地接近输入。

Autoencoder由3个部分组成：
编码器，将输入数据编码为较低维表示的层。
压缩层，包含编码/压缩表示的最低维数的层。也被称为瓶颈。
译码器，学会解码或重新构造编码表示到数据的层接近输入数据。

自动编码器功能：
去噪:为了使自动编码器学会去噪图像，我们使用一个损坏或有噪声的图像作为输入，然后修改重建损失，使重建输出与原始干净的图像之间的差异最小，而不是损坏的输入。编码器的目标是只编码有用的特征，因此，随机噪声应在重建过程中丢失。
降维:通过使用输出层比输入层有更少维数的“不完全”自动编码器，自动编码器能够在更低维数的情况下非线性地表示数据，这与有限的线性变换的PCA(主成分分析)方法形成对比。

我们的编码器将输出我们想要的每个潜在维度的均值和方差，并从分布中抽取z来生成新的数据。

数学细节
现在我们将深入研究VAE的实施。我们将把x表示为输入数据，把z表示为潜在变量(编码表示)。在普通的自编码器中，编码器将输入x转换为潜在变量z，而解码器将z转换为重构的输出。而在可变自编码器中，编码器将x转换为潜在变量p(z|x)的概率分布，然后对潜在变量z随机采样，再由解码器解码成重构输出。

自编码器(确定性)和可变自编码器(概率性)的区别。
为了计算潜在分布p(z|x)，可以利用贝叶斯公式得到

其中

不幸的是，计算p(x)是困难的，它通常是一个棘手的分布，这意味着它不能以封闭形式表示，这个问题不能用多项式算法来解决。
因此，我们将用可变推理方法来近似分布。基本上，我们将选择一些其他易于处理的分布q来近似分布p。为了做到这一点，我们希望q(z|x)的参数与p(z|x)非常相似。

可变自动编码器(VAE)相关推荐

使用(VAE)生成建模,理解可变自动编码器背后的数学原理
理解可变自动编码器背后的原理生成模型是机器学习中一个有趣的领域,在这个领域中,网络学习数据分布,然后生成新的内容,而不是对数据进行分类.生成建模最常用的两种方法是生成对抗网络(GAN)和可变自编 ...
熔池沉积_用于3D打印的AI（第3部分）：异常熔池分类的纠缠变分自动编码器
熔池沉积 This article is part 3 of the AI for 3-D printing series. Read part 1 and part 2. 本文是3-D打印AI系列 ...
如何才能信任你的深度学习代码？
深度学习是一门很难评估代码正确性的学科.随机初始化.庞大的数据集和权重的有限可解释性意味着,要找到模型为什么不能训练的确切问题,大多数时候都需要反复试验.在传统的软件开发中,自动化单元测试是确定代码是 ...
【AI视野·今日CV 计算机视觉论文速览第162期】Fri, 27 Sep 2019
AI视野·今日CS.CV 计算机视觉论文速览 Fri, 27 Sep 2019 Totally 55 papers ?上期速览✈更多精彩请移步主页 Interesting: TODO(rjj): de ...
利用循环神经网络生成唐诗_可视化解释11种基本神经网络架构
> Source: Pixabay 标准,循环,卷积和自动编码器网络随着深度学习的飞速发展,已经创建了完整的神经网络体系结构主机,以解决各种各样的任务和问题. 尽管有无数的神经网络架构,但对于 ...
人工神经网络持续学习的脑激励重放
目录 Brain-inspired replay for continual learning with artificial neural networks 1.比较连续学习方法 1.1 对比方法: ...
Nature重磅综述|2022年最新生物信息学，你想知道的都在这里！
培训背景四大专业课程助您发顶刊课程一: 深度学习基因组学专题线上培训班课程二: 机器学习单细胞分析应用专题线上培训班课程三:单细胞空间转录组应用专题线上培训班 ...
单元测试在深度学习中的应用 | 附代码「AI产品/工程落地」
关注:决策智能与机器学习,深耕AI脱水干货作者 | Tilman Krokotsch 编译 | ronghuaiyang 报道 | AI公园导读本文非常详细的介绍并演示了如何将单元 ...
机器学习在代谢组学、蛋白质组学、微生物组学、基因组学研究中的应用
如果您在从事生物医学方面的研究并且有发顶刊的想法下面这篇内容会给你思路和方法四大专题内容专题一:机器学习在蛋白质组学实践应用专题线上培训专题二:机器学习在代谢组学实践应用专题线上培训 ...

可变自动编码器(VAE)

可变自动编码器(VAE)相关推荐

最新文章

热门文章