EM算法理论及其应用

EM算法是一种迭代算法,主要用来计算后验分布的众数或极大似然估计,广泛地应用于缺损数据、截尾数据、成群数据、带有讨厌参数的数据等所谓的不完全数据的统计推断问题。在介绍EM算法的基础上,针对EM算法收敛速度慢的缺陷,具体讨论了加速EM算法：EMB算法和MEMB算法;针对EM算法计算的局限性,给出了EM算法的推广：GEM和MCEM算法。最后给出了EM的实值实例,结果精确。     

基于EM算法的高斯混合密度参数估计

描述最大似然参数估计问题,介绍如何用EM算法求解最大似然参数估计.首先给出EM算法的抽象形式,然后研究EM参数估计方法的一个应用:求高斯混合密度的参数.推导出高斯混合密度参数的迭代公式.     

基于改进EM算法的分布式MIMO系统联合参数估计

鉴于采用最大似然算法估计分布式多天线系统的信道增益与频偏存在多维优化使计算复杂度高的缺陷,以及采用期望最大化（EM）算法存在收敛速度慢、对初值依赖性大的不足,而期望条件最大化（ECM）算法用一系列计算简单的CM步来代替一个复杂的M步,弱化了初值对收敛性的影响.综合考虑ECM算法与最大似然（ML）估计算法来优化EM的收敛过程,提出了一种高效稳定的EM算法.该算法在CM步取得频偏的更新值后,通过ML的结果来更新信道增益.仿真结果表明：该算法对初值的依赖性较低、计算简单且稳定性高,结合空间选择期望最大化（SAGE）方法后能大幅提高收敛速度,且所得估计值的均方误差（MSE）能够逼近Cramer-Rao界（CRB）.     

双边定时截尾下Burr Ⅻ分布的参数估计

在双边定时截尾样本下,用最大似然法求Burr Ⅻ分布中未知参数的估计,证明了最大似然估计是唯一存在的.用EM算法得到了未知参数的迭代公式及渐近方差,相关引理说明迭代公式具有良好的收敛性.随机模拟结果表明未知参数的EM估计要优于最大似然估计,对于双边定时截尾样本来说,EM算法是一种较好的参数估计方法.     

逐步Ⅰ型区间删失下逆威布尔分布的参数估计

基于逐步Ⅰ型区间删失样本,通过求解似然方程并不能得到未知参数的极大似然估计.该文利用EM算法得到了参数估计的迭代公式,为了简化计算过程,得到了求参数估计的另一种方法.通过数值模拟可看到:参数估计值与真值非常接近,相对偏差较小,从而说明EM算法是可行的.     

指数几何混合模型参数的嵌套EM算法

本文介绍了由指数分布和一个截尾分布混合得到的指数几何混合分布模型,简记为EG模型。它的概率密度函数为 *。首先说明了用EM算法在M步中不能求得参数β和p的极大似然估计的显式解,需要用数值解法,然后通过嵌套一个EM算法在另一个EM算法中,外层EM算法是基于混合模型的缺失数据讨论,内层EM算法是针对截尾观测数据的,得到了参数的极大似然估计量。(注：*处代表公式)
     

递增EM算法的图像聚类

研究在样本子集中实现EM估计的递增EM算法.通过检测子样本的似然判断条件,自动选择样本递增的数量,建立子样本的拟合分布逐步逼进完全样本的高斯模型的过程,改进了传统EM算法在每一步迭代都需要遍历完全样本的计算复杂性以及效率较低的问题.实验结果表明,与EM算法相比,该算法能更早地达到估计值的领域,具有较快的收敛速度,聚类效...     

截断删失数据下线性指数分布的参数估计

研究了截断删失数据模型中线性指数分布的参数估计问题。分别利用极大似然估计法和EM算法对未知参数进行估计,并给出参数估计随机模拟检验,通过检验发现:极大似然估计得到的参数估计和EM算法得到的参数估计结果差不多,但是EM算法的收敛速度较快。     

Fisher得分法与EM算法在随机效应模型中的应用

随着随机模型的广泛应用,关于随机效应模型的参数估计一直是线性模型的最活跃的研究方向之一。我们经常估计这类模型的固定效应和方差成分。我们使用极大似然估计作为估计方差成分的一种技巧,为了考虑到估计固定效应时的自由度的损失,我们又会使用限制极大似然估计。计算方差成分的ML或者REML估计时,有很多迭代算法可以使用。我们关心的是Fisher得分法和EM算法应用到随机效应模型的方差成分上,通过使用这两种算法对随机效应模型的方差成分的极大似然估计和限制极大似然估计进行比较分析。本文给出EM算法用于求极大似然估计的具体公式补充证明,并对Fisher得分法在随机效应模型中的应用限制极大似然估计给予具体公式。     

零一膨胀泊松回归模型的EM算法改进

首先提出了处理0和1数据偏多的零一膨胀泊松回归模型,其次对模型建立了参数的极大似然估计.针对传统的EM算法只能使得估计收敛到局部极大值这个缺陷,提出了一种随机EM算法对传统的EM算法进行修正,使得模型能够找到全局最优解.最后通过模拟研究说明该方法的有效性.