EM算法下的快速收敛参数预估策略

苏嘉庚

EM算法又称为期望最大化算法，是求参数极大似然估计的一种迭代优化策略，优势非常明显，简单、收敛，但是也存在缺点，为实现快速受限参数预估，需要对EM算法最初改进，研究中重点分析EM算法下快速收敛参数估计策略相信随着研究不断深入，EM算法将会得到更大的改进。

【关键词】EM算法 收敛参数估计 收敛速度

在通信中，快速可靠的同步参数估计是关键步骤之一，EM算法是一种求解参数最大似然估计的迭代算法，EM算法收敛速度与缺失数据的信息量有关，在每次迭代后健概率密度函数值均能够得到提高，本文分析EM算法下快速收敛参数预估策略。

1 EM算法收敛速度

EM算法最大优点在于收敛稳定，，在吉布斯不等式中log（x）0，f（x）=g（x），H（f/g）=-∫f（x）dx+∫g（xdx），只有f（x）与g（x）相等时，式子才会成立。

EM算法估计序列设定为{θ（k）}，log（p（x）lθ（k+1））≥log（p（x）/θ（k）），已知Q（θlθ（k）=∫[logp（z/θ] p（y/x，θ（k）dy，由Bayes统计先验函数关系式p（z/θ）=p（x/θ）p（y/x，θ），θ在分布均匀情况下，能够观测到X密度，logp（z/θ）给定观测到的数据后密度，log（p（zlθ））+C=log（p（xlθ））+log（P（ylx，θ））+C，log（p（zlθ）=Z（θ）+log ho（Y），得到l（θ）=Q（θ/θ（k）-∫[loghθ（Y）]hk（Y）dy，M极大化，Q（θ（k+1）/θ（k），X）=maxθQ（θ/θ（k），X），可以看到Q一直都在增大。∫log[hk（Y）/hk+1（Y）]hk（Y）dy>0。EM算法在E与M交替运算下，可以认为估计参数序列收敛到似然估计。在每次迭代中，计算似然函数，选择函数最大化θ（k+1）代替θ，构成标准EM算法。

EM算法映射了一个映射函数，如果收敛到映射的一个不动点，θ（k+1）一θ≈Φ（θ（k） （θ（k）-θ*），如果P=1算法线性收敛。迭代算法收敛率与矩阵最大特征跟有关，收敛速度与缺失信息比例量有关。

2 EM算法改进

EM算法执行算法能够达到似然函数最优质的，适应性和可操作性都较强，为了使其更好的适用于多个领域，EM算法进行了多个方面的改进。在E步算法改进中，假设第i此迭代开始已经有了估计值，从b（x1，pi）中抽取随机数，计算Q函数，Q（θ/θ（i））=（x1+x4-y）logθ+ （x2+x3）log（1-θ）.在M步中，θ（i+1）=（159-y）/（197-y），采用Matlab编程实现ECEM算法，结果与EM算法估计结果想接近，m值过大时，计算速度下降。

在M法算法改进中， 为避免出现迭代M步，采用简单条件来代替M不，计算函数Q极值，设计简单优化问题，在每一次CM步中增加函数，为保证算法的收敛性，需要保证每一次循环都搜索函数最大值点，保证EM的收敛性。迭代算法收敛率与矩阵最大特征值类似，随着缺失信息比例的增加，收敛速度下降。ECM算法迭代速度与EM相接近，但是考虑到迭代次数，ECM算法要更快。根据ECM算法理论，因此需要选择约束条件，将自然将θ分成S个子向量，在8个CM步下求函数Q极值，这种策略就是迭代条件模式。

3 快速收敛参数估计方法

提出基于EM算法迭代中，用符号后验概率，修正虚高先验概率，降低缺失数据熵，降低参数估计CRB，并进行验证。信号模型为r（t）=s（t，b）+n（t），令b=[r0，r1，r2，…，rk-1]，忽略待估计b不相关项，数似然函数lnp（r/a，b）=-2Re{ΣakYk（v，t）e-jθ}+Σak2。EM算法收敛速度属于现行的估计误差在e（i+1）r=C（r）ei（r），缺失数量越小，迭代误差越小，因此C（r）=I（r）Im（r），式子两边取条件期望，得到平均误差，Er/b[e（i+1）（r）]=McEr/b[e（i）（r）]，式中Mc为收敛速度。EM收敛到ML估计值平均毒素与函数有关，Mc在[0，1]之间。由于a、b相互独立，CRB-1（b）=-[∫p（r，a/b）б2logp（r，a/b）drda/бb2]=MCRB-1（b），随着CRBr（b）的降低，Mc越小参数估计平均误差变小，降低CRBr（b）能够加快收敛速率。利用符号后验证得到CRB精确表达式，由于待估参数b与缺失数据以概率和估计值的行贿出现，随着估计值的准确，符号后验概率也更加精确。

定义符号后验概率Ckm=p（a=am/b），表示m个星座点概率，设定Φ={Ckm，b}，对于Ckm，定义为Q/=Q1+λ（∑Ck，m-1），求偏导，бQ//бCk，m=p（a=am/r，bi-1）/c/k，m=0，将符号后验概率看做未知参数，得到c/km=p（a=am/r，bi-1），修正方法不会概念其性质，仍然收敛，修正后对EM算法性能没有影响。

性能仿真中，以数字接受QPSK载波估计为例，观测模型rk=akejθ+vk，k=0，1，2，…，N-1，式中ak为QPSK信号，N为观察数据长度，通过读好后验概率比较未知符号先验分布和载波相位估计CRB降低香味估计，向DA方式性能逼近。相位估计中，考虑未编码QPSK信号，符号长度1000，比较相位估计MCRB与先验概率匀后相位估计标准，结果表明，性能没有变化，在Eb/E0>/kb时，香味估计标准差在10-3以内，接近MCRB，可以看出EM算法能够满足突发模式需求。SNR=10dB，初始相偏∏/4，仿真表明，修正先验概率时收敛速度显著得到提高。

4 结语

综上所述，本文研究中通过EM算法迭代中用符号后验概率修正符号先验概率，降低缺失数据对参数的影响，仿真结果显示本文估计方法估计性能没有下降，收敛速度得到提高，能够用于突发数据的同步参数估计。

参考文献

[1]邢长征，苑聪.一种快速、贪心的高斯混合模型EM算法研究[J].计算机工程与应用，2015，51（20）：111-115.

[2]刘波.基于EM的突发通信参数估计技术研究[D].郑州：解放军信息工程大学，2009.

[3]王戈，于宏毅，沈智翔等.一种基于EM算法的快速收敛参数估计方法[J].吉林大学学报：工学版，2013，43（02）：532-537.

作者简介

蘇嘉庚（1986-），男，河北省石家庄市人。CCF会员，硕士研究生/助教，2014年毕业于河北师范大学数信学院。研究方向为主要研究方向为数据挖掘、智能信息处理。

作者单位

石家庄邮电职业技术学院 河北省石家庄市 050021