物理或抽象的集合,按照特定的规则划分成相似的对象类的过程称为聚类分析。簇是数据对象的集合概念,这些对象与同一簇中的对象彼此相似,而与其他簇中的对象相异。聚类分析在近几十年中已有了长足的发展,已成为数据挖掘研究领域中一个非常活跃的研究课题,在图像分割中也有广泛的应用。为了适应众多的应用要求,相当数量的聚类方法相继被提了出来。然而,由于不同的聚类应用对分析方法有不同的要求,因此目前的聚类方法还存在一定的问题。本论文在粗糙集的框架下,引入遗传算法,用进化优化目标函数的思想来解决聚类中存在的问题,提出了基于粗糙集和遗传算法的一般化模糊聚类算法,并将其应用于图像分割中。本论文的主要工作如下：提出一种基于粗糙集和遗传算法的一般化模糊C均值聚类方法。该方法通过在粗糙集框架的基础上引入遗传算法的概念和思想,设计一种特别的染色体编码方案,采用选择、交叉和变异的基因操作,融合了两种不同的传统聚类方法,也就是模糊C均值(FCM)和可能性C均值(PCM)方法,对目标对象进行聚类,降低了聚类方法对初始聚类中心选择的敏感性,提高了聚类结果的性能和稳定性。针对图像处理的任务要求,将上述聚类方法应用于图像分割技术领域中,以达到目标识别的目的。针对给定的图像,利用小波分解和灰度共生矩阵的方法,提取图像的数学特征,再利用分水岭方法进行初分割以降低图像信息的冗余度和数据的规模,利用该聚类方法对图像信息数据进行聚类得到图像的分割结果。实验表明,该方法增加了图像分割的稳定性,提高了图像分割的平均准确度和分割质量。为解决较复杂数据的聚类问题,特别是流形数据,我们以基本的谱聚类算法为基础,并在数据空间中采用密度敏感的距离测度方式对数据进行处理,得到其在流形上相互之间的相似性,并通过论文提出的GARFPCM聚类算法对本征向量矩阵数据进行聚类,达到对流形等较复杂数据进行分类和识别的目的。针对于流形数据等较复杂数据,该聚类方法提高了聚类的平均准确率和鲁棒性,获得了较好的类别划分结果。