MCMC/论文-2021年11月30日

蒙特卡罗方法
是一种随机抽样方法，是利用随机数去解决计算的问题，通过实验去求解一些概率或者期望的问题。
第一步：生成随机数
计算机只能产生均匀分布的伪随机数，我们通常希望得到其他分布的随机数，就要想办法把均匀分布的数映射到服从一定分布的数。
如何映射？

马尔可夫链
能实现状态之间的转移，下一个状态只与当前的状态有关，与之前的状态没有关系。
基于马尔可夫链不同的初始值，当最后链平稳时，收敛的结果都是相同的。

Metropolis算法
通常细致平稳性不易满足
构造接受概率表达式，构造出满足细致平稳性的马尔可夫链

Metropolis-Hastings算法
Metropolis算法构造的接受概率可能会很小，需要经过很多次迭代才能到达平稳分布，故加以改进，在原不等式两边乘以小的接受概率，把其中一个接受概率乘以一个数变成1，另外一边也乘以相同的数，最终得到表达式：
具体的算法流程：
1.当前状态是i
2.从q(j|i)中产生新的状态j
3.计算接受概率alpha(j|i)
4.从[0,1]区间抽一个数据点 u~U[0,1]，将随机抽出的数据点和接受率alpha进行对比，如果u<alpha，状态从i跳转到j，否则继续保留在状态i

论文思路梳理

目标：估计未知分布的未知参数
方法：贝叶斯方法（利用相关数据的先验信息提高未知参数估计的效率）
非参数方法（对总体建立非参数模型，不指定未知的总体分布，提高模型的适用性）
非参数贝叶斯方法（借助Stick-Breaking模型构造DP过程作为未知总体分布的先验分布，再根据已知的样本数据，使得G逐渐接近于真实分布F，再借助未知参数的先验信息，结合贝叶斯方法进行参数估计）
问题：1.DP和G哪个是未知总体分布的先验分布，DP过程是，G结合样本越来越接近于真实分布？
2.123…是随机生成的未知参数的位置？

折棍子模型
棍子总长度为1，折成多个pi，将pi_1,pi_2,…看作正整数的随机概率分布，即抽样出正整数1的概率为pi_1，抽样出正整数2的概率为pi_2,…,抽样出正整数i的概率为pi_i，123…表示位置，关于正整数的随机概率分布的参数为alpha，用来控制pi_i的衰减速度，即alpha越小衰减得越快。
这个alpha就是DP(alpha,H)中的集中度参数，alpha越小，G分布越离散。

分布函数G
已知一个分布函数H（比如对数正态分布或者Gamma分布），由此定义一个序列，序列中的每一个元素都是从分布H中抽样得到的。
定义序列中每一点的概率测度，可以理解为定义了在分布H中抽样得到序列中某一点附近的点的可能性大小。
当抽样抽多个点的时候，抽到的这多个点大多位于H的函数值较大的地方，但是单个点的采样概率为0（因为单个点的面积为0）。
故概率不能很好地描述采样得到的分布的性质，而概率测度可以，它表示采样到某一点附近的可能性大小。
G是一个离散的分布，是服从DP过程的一个随机分布，是由无数个点和其权重组成的。

采样采到的到底是什么东西！！！

dpost_fun采得是theta
stick-breaking构造的模型采得是theta
x是theta
data也是theta的值