百面机器学习总结笔记(第十三章 生成对抗网络)

  • 百面机器学习总结笔记
    • 第十三章 生成对抗网络
      • 初识GANS的秘密
      • GANs值函数![在这里插入图片描述](https://img-blog.csdnimg.cn/20200303094449754.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0F2ZXJ5MTIzMTIz,size_16,color_FFFFFF,t_70)
      • GANs如何避开大量概率推断计算
      • WGAN:抓住低维的幽灵
      • DCGAN:当GANs遇上卷积
      • ALI :包揽推断任务
      • IRGAN:生成离散样本
      • SeqGAN:生成文本序列
      • 问题2 训练序列生成器的优化目标通常是什么?GANs框架下有何不同?

百面机器学习总结笔记

第十三章 生成对抗网络

初识GANS的秘密

场景描述

知识点
MiniMax游戏 值函数(Value Function)JS距离(Jensen-Shannon Divergence), 概率生成模型 优化饱和

问题1 简述GAN的基本思想和训练过程



GANs值函数

分析与解答



GANs如何避开大量概率推断计算


分析与解答

问题4 GANs在实际训练中会遇到什么问题?

分析与解答


WGAN:抓住低维的幽灵

场景描述


知识点
坍缩模式(Collapse Mode) Wasserstein距离 1-Lipschitz函数

问题1 GANs的陷阱:原GANs中存在的哪些问题制约模型训练效果?


问题2 破解武器:WGAN针对前面问题做了哪些改进?什么是Wasserstein距离?

分析与解答


问题3 WGAN之道:怎样具体应用Wasserstein距离实现WGAN算法?

分析与解答


DCGAN:当GANs遇上卷积

场景描述


问题 在生成器和判别器中应该怎样设计深层卷积结构?

分析与解答





ALI :包揽推断任务

场景描述



知识点
概率推断 隐空间 Encoder/Decoder
问题 生成网络和推断网络的融合



IRGAN:生成离散样本

场景描述



知识点
离散样本 信息检索 负样本 策略梯度

问题 使用GAN产生负样本

分析与解答




SeqGAN:生成文本序列

场景描述

知识点
循环神经网络 LSTM/GRU 语言模型 奖励/长期奖励 策略梯度 动作值函数
问题1 如何构建生成器,生成文字组成的序列来表示句子?

分析与解答

问题2 训练序列生成器的优化目标通常是什么?GANs框架下有何不同?

分析与解答






问题3 有了生成器的优化目标,怎样求解它对生成器参数的梯度?

分析与解答


百面机器学习总结笔记(第十三章 生成对抗网络)相关推荐

  1. 人工智障学习笔记——深度学习(4)生成对抗网络

    概念 生成对抗网络(GAN)是一种深度学习模型,是近年来复杂分布上无监督学习最具前景的方法之一.模型通过框架中(至少)两个模块:生成模型(Generative Model)和判别模型(Discrimi ...

  2. TensorFlow 2.0深度学习算法实战---第13章 生成对抗网络

    我不能创造的事物,我就还没有完全理解它.−理查德·費曼 在生成对抗网络(Generative Adversarial Network,简称 GAN)发明之前,变分自编码器被认为是理论完备,实现简单,使 ...

  3. 【机器学习】生成对抗网络(GAN)

    本文为机器学习的学习总结,讲解生成对抗网络(GAN).欢迎在评论区与我交流

  4. 《Java编程思想》读书笔记 第十三章 字符串

    <Java编程思想>读书笔记 第十三章 字符串 不可变String String对象是不可变的,每一个看起来会修改String值的方法,实际上都是创建一个全新的String对象,以及包含修 ...

  5. 吴恩达机器学习学习笔记第七章:逻辑回归

    分类Classification分为正类和负类 (规定谁是正谁是负无所谓) 吴恩达老师举例几个例子:判断邮箱是否是垃圾邮箱 一个在线交易是否是诈骗 一个肿瘤是良性的还是恶性 如果我们用之前学习的lin ...

  6. ng机器学习视频笔记(十三) ——异常检测与高斯密度估计

    ng机器学习视频笔记(十三) --异常检测与高斯密度估计 (转载请附上本文链接--linhxx) 一.概述 异常检测(anomaly detection),主要用于检查对于某些场景下,是否存在异常内容 ...

  7. Linux(b站视频兄弟连)自学笔记第十三章——Linux系统管理

    Linux(b站视频兄弟连)自学笔记第十三章--Linux系统管理 进程管理 进程查看 终止进程 工作管理 系统资源查看 系统定时任务 进程管理 进程查看 终止进程 工作管理 上一条是后台运行,下面是 ...

  8. 百面机器学习 自学笔记

    第一章   特征工程 ①②③④⑤⑥⑦⑧⑨ 1.常用特征归一化 特征归一化 ①线性函数归一化(Min-Mac Scaling):对原始数据进行线性变换,使结果映射到[0,1]的范围,实现对原始数据的等比 ...

  9. 学习笔记|生成对抗网络(Generative Adversarial Networks,GAN)——让机器学习具有创造力

    文章目录 1.生成对抗网络概述 1.1 对"生成"的理解 1.2 对"对抗"的理解 2. 生成对抗网络的理论基础 1.生成对抗网络概述 有时候我们希望网络具有一 ...

最新文章

  1. 单链表-逆置单链表(修改指针指向且三个指针)
  2. 吴恩达机器学习笔记 —— 3 线性回归回顾
  3. Asp.Net Core 第02局:Program
  4. 【Git】git使用:新建仓库、管理分支、冲突解决
  5. 初探儿童编程,如何学习编程及幼儿逻辑训练的必要性
  6. 日志单例log4cpp简述
  7. android 属性动画实例,Android 属性动画Animator工具类代码案例
  8. mysql datapump_mysqlpump参数详解
  9. Time complexity analysis of algorithms
  10. [转载]数字全息与计算全息
  11. 2021华为软件精英挑战赛(粤港澳赛区复赛第八)
  12. WMS系统仓库条码管理流程解析
  13. 全局返回json数据简繁体字转换(返回数据里的中文全改成繁体字)
  14. 批量下载邮件附件 可筛选和分类 直接跑、稳定版 Python完整代码
  15. R语言|Rstudio|初学笔记
  16. Maxcompute Sql性能调优(1)
  17. 分享暄桐好作业之《灵飞经》,静观春意生长
  18. 各类编程开发网址分享
  19. MIPI摄像头工程=7系列FPGA + OV5640(MIPI) + 15 分钟 + VITIS
  20. js常见面试题及简单回答

热门文章

  1. 规则 |《淘宝网珠宝饰品行业标准》12月30日生效!
  2. ZYI官网单页html引导页源码 动态背景特效
  3. 习题 14.1 求一元二次方程式ax^2+bx+c=0的实根,如果方程没有实根,则输出有关警告信息。
  4. Mac下终端登录mysql创建数据库修改字集
  5. cron 执行时间
  6. android 开机启动程序
  7. 2-37.1 EmpProject综合案例
  8. 失去偏执的苹果会如何?Android 会一统天下吗?
  9. golang 初始化并赋值_声明和初始化
  10. java pojo 是什么_POJO是什么,javabean是什么,以及POJO与javabean的区别