马尔科夫链蒙特卡罗方法的应用.ppt

《马尔科夫链蒙特卡罗方法的应用.ppt》由会员分享，可在线阅读，更多相关《马尔科夫链蒙特卡罗方法的应用.ppt（36页珍藏版）》请在优知文库上搜索。

1、马尔科夫链蒙特卡罗方法的应用马尔科夫链蒙特卡罗方法的应用l理论理论l理论模型理论模型l软件介绍软件介绍l实证分析实证分析理论理论l马尔科夫链模拟l吉布斯抽样l贝叶斯推断l其他算法 孔文涛回顾马尔科夫过程1,()()(|,)(|),.(|,)(|),.tthsthshtthtthtXXXhtXstXP XXstp XXhtXP XXXP XXhtA对于一个属于空间的随机过程给定的值，如果的值不依赖于的取值，那么称过程是一个马尔科夫过程。它的条件分布函数满足 如果是一个离散时间的随机过程，则上式变为 令 表示的子集，则函数(,)(|),.thtPh Ap XA Xht 称为马尔科夫过程的转移概率函

2、数。马尔科夫链模拟及MCMC方法(|)PXX马尔科夫链模拟的思想是在 上模拟一个马尔科夫过程，使它收敛于平稳转移分布。这个分布可以用于考虑参数向量为 和数据为 的推断问题。(|)(|)PXPXMCMC马尔科夫链模拟的关键是构造一个具有指定的平稳转移分布的马尔科夫过程，并且充分长地运行这个模拟，使得过程当前值的分布与平稳转移分布足够接近。利用马尔科夫链模拟来得到分布的方法称为方法。马尔科夫链模拟及MCMC方法MCMC,(|),MCMC,MetropolisHastingsGibbsPX方法的基本思想是:建立一个马尔科夫链对未知变量 进行模拟 当链达到稳态分布时即得所求的后验分布。随机点 来自于分

3、布不同的抽样方法导致了不同的方法 如方法、抽样方法以及各种复合方法等。马尔科夫链模拟及MCMC方法o 转移概率矩阵的定义。o 定义：对于一个马尔可夫链 ，称由状态i经过m步转移到状态j的转移概率 为元素，组成的矩阵为转移概率矩阵，用 表示。o 当m=1时的转移概率矩阵为 ，就是一步转移概率矩阵，将其简记为 ，简称为转移矩阵。,3,2,1:nn)(mpij)()(mpmPij)1()1(ijpPijpP 马尔科夫链模拟及MCMC方法o 考虑“缺失值”的问题。o Dempster，Laird和Rubin(1977)提出EM算法来解决数据分析时“缺失值”的问题。M步：如果缺失值是可以得到的，能够利用

4、完全数据分析的方法来建立一个波动率模型。E步：给定可以利用的数据及拟合的模型，能够推导出缺失值的统计分布。马尔科夫链模拟及MCMC方法o Tanner和Wong(1987)以两种方式扩展了EM算法。首先：引进迭代模拟的思想从条件分布中抽取一个随机数来代替缺失值。第二：利用数据扩张的概念扩展了EM算法的应用在研究的问题中加入一个辅助变量。吉布斯抽样o Geman(1984)、Gelfand和Smith(1990)提出的MCMC方法。o 通过一个三个参数的简单问题来引进吉布斯抽样的思想。吉布斯抽样123112322313312(|,),(|,),(|,),(1)(|,)iij iiXMfX MfX

5、 MfX MfX M 将三个参数表示为、和。令 表示可用的数据集，表示接受的模型。现在的目标是要估计这些参数，以便利用拟合的模型作出推断。假定模型的似然函数很难得到，但是在给定其他参数下，单个参数的三个条件分布是可以得到的，即下面三个条件分布已知：其中表示给定数据、i模型以及其他两个参数的条件下，参数 的条件分布。吉布斯抽样2 03 023112 03 011223 0112 133112 131112 1311)(|,)2)(|,)3)(|,)fX MfX MfX M，令和是 和 的两个任意初始值，则吉布斯抽样过程如下：从中抽取一个随机样本，并将其表示为。从中抽取一个随机样本，并将其表示为。

6、从中抽取一个随机样本，并将其表示为。这就完成了一个吉布斯迭代，且参数变为，和1 22 23 211 2 1 311,2,3,(),().mmmm ，。下一步，利用新参数作为初始值，重复前面随机抽取的迭代，可以完成另一个吉布斯迭代，得到更新的参数、和。重复前面的迭代 次，得到一系列的随机抽取：吉布斯抽样o 对一个充分大的m，渐近等价于来自三个参数的联合分布 的一个随机抽取。o 实际中，我们利用一个充分大的n，并且丢掉吉布斯迭代的前m个随机抽取，建立一个吉布斯样本，即o 因为前面的迭代从联合分布 中建立了一个随机样本，所以可以利用它们来作出统计推断。1,2,3,()mmm123(,|,)fX M

7、1,12,1 3,11,2,3,(),().mmmnnn 123(,|,)fX M 吉布斯抽样o 吉布斯抽样具有将一个高维的估计问题利用所有参数的条件分布分解为几个较低维数问题的优点。o N个参数的高维问题转化为N个1维的条件分布迭代地解决。o 当参数高度相关时，联合地抽取。12312123()(,)()(,)ab 如果和是高度相关的，则一个吉布斯迭代包含给定，联合抽取给定，抽取吉布斯抽样o 收敛性问题o 理论：仅仅指出当迭代次数m充分大时收敛发生，没有对m的选择提供具体的指导。有多种检验吉布斯样本收敛性的方法，但没有哪种方法最好的一致结论。o 实际：并不能保证对所有的应用都是收敛的。必须仔细

8、地执行，以保证没有明显的对收敛性要求的违背。贝叶斯推断后验分布o 条件后验分布：在数据、其它参数和一定模型给定的条件下参数的分布。o 贝叶斯推断是将先验的思想和数据结合，得到后验分布，然后基于后验分布进行统计推断。o 贝叶斯分析寻求将关于参数的知识与数据相结合来作出推断，参数的知识是通过对参数预先指定一个先验分布表示的，记为 。()P贝叶斯推断后验分布(|)(,)(|)()(|)(2)()()()(,)(|)()(2)(|)(|Xf XfXf XPfXf Xf Xf Xf Xdf XPdfXf 令 为未知参数向量，是数据。对一个给定的模型，用表示数据的似然函数，则由条件概率的定义，边际分布可由

9、下式得到 方程中的分布称为 的后验分布。一般地，可以利用贝叶斯准则得到 )(|)()(3)(3)(|)Xf XPf X 由方程，基于似然函数作出统计推断，相当于利用具有一个固定的先验分布的贝叶斯方法。贝叶斯推断共轭先验分布o 由方程(2)得到的后验分布一般不是简单的，但也有先验分布与后验分布属于同样的分布族的情形，这样一个先验分布称为共轭先验分布。o 对MCMC方法，共轭先验的使用可以得到条件后验分布的一个显示解，然后可以利用通常的概率分布的计算机程序得到吉布斯样本的随机抽取。其他算法Metropolis算法o 条件后验分布没有显示解。o 假定我们希望从分布 中抽取一个随机样本，它包含一个负杂

10、的标准化常数，直接的抽取要么太浪费时间，要么不可行。但是存在一个近似的分布，可以很容易地得到随机抽取。o Metropolis算法就是从近似分布中产生一系列的随机抽取，使得它们的分布函数收敛到 。(,)fX(,)fX其他算法Metropolis算法o 具体算法如下进行：001*1*11),(|)0.2)1,2,()(|)(1995)(|)(|).(|)()(|)(ttttijtijtjitfXtatJGelmantJJfXbrfXc抽取一个随机的初始值满足对重复以下迭代第 次迭代时，在给定前面的抽取下，从已知分布中抽取一个候选样本，用表示已知分布，在等中称为跳跃分布。这个跳跃分布一定是对称的，

11、即对于所有的，和，有计算比率*1min(,1)(|)tttrfX 以概率设定 其他在一些正规性条件下，序列依分布收敛到；其他算法Metropolis算法*1*1*(|)()()ttttttrfXiiir 算法的实施要求对所有的和计算比率 的能力，以便从跳跃分布中抽取，并从均匀分布中抽取一个随机实现，决定接受或者拒绝。不需要的标准化常数，因为只利用比率。此算法的接受和拒绝准则可以陈述如下：如果从到 的跳跃增加了条件后验密度，则接受作为；如果这个跳跃降低了后验密度，则以等于密度比 的概率设定；否则设定1。其他算法Metropolis-Hasting算法*1*1*11*1*1(1970)(|)/(|

12、)(|)/(|)(|)/(|)(|)/(|)ttttttttttHastingMetropolisfXJfXJrfXJfXJMetropolis Hasting 以两种方式推广了算法。首先，跳跃分布没有必要一定是对称的；其次，跳跃准则修正为 这个修正的算法称为算法。其他算法格子吉布斯算法o 在金融应用中，ARMA或者波动率等模型可能包含一些非线性参数，而这些参数的条件后验分布没有显示表示，执行吉布斯抽样或者Metropolis-Hasting算法可能会变得复杂。o Tanner(1996)描述了当条件后验分布是1元时，在吉布斯抽样中得到随机抽取的一个简单程序，这个方法称为格子吉布斯抽样(Gri

13、ddy Gibbs)。其他算法格子吉布斯算法123123121(|,)(,)(,)1).(|,)(1,).2),(|,)iiiiiiiiimjijimiifXfXjmfX 令 表示具有条件后验分布的尺度参数，这里是剔除 之后的参数向量。例如，如果则。格子吉布斯抽样进行如下：从 的一个恰当选择的区间上选择格子点，即估计条件后验密度函数，得到利用得到逆累计分布函数的一3)(0,1)i个近似。抽取一个均匀随机变量，并且通过近似的逆累计分布函数转换这个观测，得到 的一个随机抽取。研究动态马尔科夫链及MCMC方法o 马尔科夫是享誉世界的著名数学家，社会学家。他研究的范围很广，对概率论、数理统计、数论、函

14、数逼近论、微分方程、数的几何等都有建树。马尔科夫最重要的工作是在1906一1912年间，他提出并研究了一种能用数学分析方法研究自然过程的一般图式，后人把这种图式以他的姓氏命名为马尔可夫链(Markov Chain)。同时他开创了对一种无后效性的随机过程的研究，即在已知当前状态的情况下，过程的未来状态与其过去状态无关，这就是现在大家耳熟能详的马尔可夫过程(Markov Process)。研究动态马尔科夫链及MCMC方法o 马尔科夫链由马尔科夫1907年提出的，后由蒙特卡罗(Monte Carlo)加以发展而建立起来的。o 之后，马尔科夫过程、马尔科夫链模拟及MCMC方法得到广泛研究，广泛应用于医

15、学、公共卫生领域，教育管理工作，经济管理领域。研究动态马尔科夫链及MCMC方法oMCMC方法最初应用于计算物理(Metropolis等，1953)，Hasting(1970)的工作使其更为一般化，但主要用于统计问题。Gelfand和Smith(1990)的研究显示出MCMC方法在贝叶斯计算上有着巨大的潜力，他们将马尔科夫链的方法与Tanner和wong(1987)的增参数方法相结合，证明了对含有潜在动态变量的计量模型的估计是极为成功的。oMCMC方法不仅可以用于一般ARMA模型的估计，还可以用于各种波动模型的估计。就SV模型而言，MCMC方法不仅可以用来估计基本SV模型，而且可以估计SV模型的

16、一元与多元扩展。o近年来，以各种复杂的动态随机系统的统计推断为主要目的序列蒙特卡洛方法(Sequential Monte Carlo(SMC)也取得了很大的进展。研究动态马尔科夫链及MCMC方法o 近年来，由于吉布斯抽样(Gibbs sampling)技术和计算技术的突破，Jacquier,Polson,Rossi(JPR,1994)首次应用马尔科夫链蒙特卡罗法(MCMC)方法估计SV模型。随后，Tse,Zhang,Yu(2002)等学者实证了MCMC方法估计SV的效果,得出MCMC是最佳的SV参数估计方法。为此，Shephard(2005)为代表的学者倡导采用MCMC方法得到了最广泛的认同和实际应用。研究动态马尔科夫链及MCMC方法o 多应用于指数波动率的预测、股票投资组合的策略研究、股票收益率的预测、汇率走势的分析。o 林静、韩玉启和朱慧明(2005)在基于MCMC稳态模拟的指数回归模型及其应用中利用基于Gibbs抽样的MCMC模拟方法与WinBUGS软件解决了指数模型中高维数值计算的不便，提高了计算的精度，有利于该模型在可靠性分析理论中的推广。研究动态马尔科夫链及MCMC方法o