在人工智能,模式识别,机器学习等领域中,很多的应用都要用到模型的参数估计。即极大似然估计或极大后验似然估计。EM算法,又称期望最大算法,就是作为一种参数估计的方法通常用于存在缺失数据的情况下。核心思想就是根据已有的数据来迭代计算似然函数,使之收敛于某个最优值。本文简要介绍了聚类的基础知识,回顾了聚类的典型方法,重点介绍了基于模型的聚类方法。然后,文章深入讨论了EM算法并从以下四个方面对EM算法进行了深入的研究。1,实现了基于高斯混合模型的EM算法,并针对一个具体的应用实例的数据集,和Kmeans方法作了比较,也作为深入研究本文算法的基础。2,EM算法收敛的优劣很大程度上取决于其初始参数。运用EM算法来实现高斯混合模型的聚类,如何初始化EM参数是一个关键的问题。本文在比较其他的初始化方法的基础上,引入用于密度估计的“binning”法来初始化EM。实验结果表明,应用binning法来初始化EM的高斯混合模型聚类优于其它传统的初始化方法。3,半监督聚类是指利用少部分标签的数据辅助大量未标签的数据进行的聚类分析。本文提出了一种基于双重高斯混合模型的EM算法,在无监督学习中增加一些有标记的样本,利用已标记的样本得到初始参数,研究了半监督条件下的双重高斯混合模型的EM聚类算法。实验结果表明,该算法提升了样本的识别率,具有良好的聚类性能和一定的应用领域。4,最后,本文研究了基于Mel频率倒谱系数和高斯混合模型(GMM)的说话人识别系统。给出了MFCC倒谱系数的具体提取过程和算法,并通过实验研究了EM的迭代次数和GMM模型阶数对识别性能的影响。