「埃尔法哥哥」蒙特卡罗方法概述( 二 ) 作为一种随机采样方法

不过很多时候，我们的x的概率分布不是常见的分布，这意味着我们没法方便的得到这些非常见的概率分布的样本集。那这个问题怎么解决呢？
接受-拒绝采样
对于概率分布不是常见的分布，一个可行的办法是采用接受-拒绝采样来得到该分布的样本。既然p(x)p(x)太复杂在程序中没法直接采样，那么我设定一个程序可采样的分布q(xq(x)比如高斯分布，然后按照一定的方法拒绝某些样本，以达到接近p(x)p(x)分布的目的，其中q(x)q(x)叫做proposaldistribution 。
具体采用过程如下，设定一个方便采样的常用概率分布函数q(x) ，以及一个常量k ，使得p(x)总在kq(x)的下方。

文章图片
首先，采样得到q(x)的一个样本$z0$ ，采样方法如上，使用uniform(0,1)转换得到。然后，从均匀分布(0,kq(z0))(0,kq(z0))中采样得到一个值uu 。如果uu落在了上图中的灰色区域，则拒绝这次抽样，否则接受这个样本z0z0 。重复以上过程得到n个接受的样本$z_0,z_1,…z{n?1}$,则最后的蒙特卡罗方法求解结果为：
整个过程中，我们通过一系列的接受拒绝决策来达到用q(x)模拟p(x)概率分布的目的。
小结
使用接受-拒绝采样，我们可以解决一些概率分布不是常见的分布的时候，得到其采样集并用蒙特卡罗方法求和的目的。但是接受-拒绝采样也只能部分满足我们的需求，在很多时候我们还是很难得到我们的概率分布的样本集。比如：
对于一些二维分布p(x,y)p(x,y) ，有时候我们只能得到条件分布p(x|y)p(x|y)和p(y|x)p(y|x),却很难得到二维分布p(x,y)p(x,y)一般形式，这时我们无法用接受-拒绝采样得到其样本集。
对于一些高维的复杂非常见分布p(x1,x2,…,xn)p(x1,x2,…,xn) ，我们要找到一个合适的q(x)和q(x)和k$非常困难。
从上面可以看出，要想将蒙特卡罗方法作为一个通用的采样模拟求和的方法，必须解决如何方便得到各种复杂概率分布的对应的采样样本集的问题。
此时就需要使用一些更加复杂的随机模拟的方法来生成样本。比如马尔科夫链蒙特卡罗方法，了解这个算法我们首先要对马尔科夫链的平稳分布的性质有基本的认识。