学习内容：利用Jensen不等式证明相对熵的非负性，即:

相对熵的定义

Jensen不等式的内容

第一次证明：

第一次证明是无效的，首先是因为Jensen不等式的公式构造有误，不等号右边应为,其次使用Jessen不等式时忽略了对函数的条件要求，构造的log函数为上凸函数，所以自变量取均值作为新自变量的函数值应该大于等于每个点函数值取均值的值。

第二次证明：

第二次尝试将作为log指数的分母，将分子设定为最小的值即，此时构造的新函数以为自变量，为下凸函数，符合使用条件，同时尝试通过设置pm值来进行放缩，最后得到我们需要证明的式子。然而最后两个式子的不等号无法连接，证明失败。

第三次证明：

最终完成相对熵非负性的证明

通过本次学习：

1、我们接触了CSDN平台，学会如何在其中查找与筛选自己需要的信息，同时也学习到其他人的一些很好的想法和学习方法。

2、我们更加熟悉Jensen不等式的内容，尤其是在第一次证明后真正理解其含义，并能够熟练的运用，在以后学习中遇到需要运用该不等式的情况时更加得心应手。

3、加深相对熵相关内容的理解，尤其是通过自己动手证明对其非负性印象深刻。

2022刘仲文程聪孙迎迎--用Jensen不等式证明相对熵的非负性相关推荐

之全能忙内_闪闪发光刘耀文，全能忙内初长成，西南狼崽变狼王
现在的idol真是一个比一个小,谁能想到时代少年团的刘耀文,竟然是05年出生的.可能是183的身高,让他看起来比实际年龄更成熟吧. 刘耀文外号小狼崽,当时还在上小学的他,和师哥王俊凯一样,在学校厕所被 ...
名帖240 祝允明行书《刘君文威听泉记》
祝允明行书作品<刘君文威听泉记>卷:书于明正德元年(1506),祝枝山时年47岁.纸本,北京故宫博物院藏. 此卷是祝允明为时人刘文威"听泉记"一文所回写的另一篇&quo ...
【2022 CCF BDCI 文心大模型创意项目】乐享词话—诗词意境辅助记忆工具
[2022 CCF BDCI 文心大模型创意项目]「乐享词话」--诗词意境辅助记忆工具唐诗宋词记忆不下来?快来领取你的专属辅助记忆工具! 「乐享词话」允许你将古诗词中的意境提取出来,更直观地感受古诗 ...
[2022 CCF BDCI 文心大模型]还在愁没有头像？属于你的个人头像来了！
[2022 CCF BDCI 文心大模型]还在愁没有头像?属于你的个人头像来了! 用文本就可以生成不错的图片??这不快来体验一下??! AiStudio项目地址,选择hub版,代码fork后无脑运行: ...
2022刘润年度演讲：进化的力量关键词
2022刘润年度演讲:进化的力量关键词 1.风险决策=概率 X 代价 2.真正的不确定性无法计算概率 3.2022年第一批00后毕业,总人数1076万,增长了18.4%:考研人数457万,增长21.2 ...
诗歌(7)—赠刘景文
赠刘景文作:苏轼荷尽已无擎雨盖, 菊残犹有傲霜枝. 一年好景君须记, 正是橙黄橘绿时. [注释] 荷尽:荷花枯萎,残败凋谢. 擎:举,向上托雨盖:旧叫作雨伞,诗中比喻荷叶舒展的样子. 菊残:菊花 ...
【2022 CCF BDCI 文心大模型创意项目】中秋款文心带你轻松搞定MV制作
[2022 CCF BDCI 文心大模型创意项目]中秋款文心带你轻松搞定MV制作项目效果先知项目地址: https://aistudio.baidu.com/aistudio/projectdet ...
刘馨文：关键词优化排名如何优化网站
1.能让百度搜索引擎蜘蛛辨识 #端和PC端一样,都是通过蜘蛛抓取,然后建立索引,不管是#端还是PC的Baiduspider只能读懂文字信息,对flash和图片.Javascript等内容没法做到很好的 ...
[Python] 爬取材料力学Ⅰ第六版刘鸿文-指导与例题习题解答
[Python] 爬取材料力学Ⅰ第六版刘鸿文-指导与例题习题解答下载书<材料力学Ⅰ 第六版刘鸿文-指导与例题习题解答>的全部图片下载的图片保存在./cailiaolixue里,全部 ...

2022刘仲文程聪孙迎迎--用Jensen不等式证明相对熵的非负性