随着时代发展,机器学习算法所使用的数据维度以及样本数量均已达到前所未有的规模。传统的聚类算法的假设已不再有效,其时间复杂度不可接受。针对以上挑战,本文从子空间聚类,多视图聚类,深度聚类3个角度研究聚类算法。本文调研了三类算法中的发展现状及代表性算法,并且从中发现了四个具体问题进行研究。首先,针对子空间聚类算法中存在的子任务相互依赖问题,第三章提出使用成对约束打破子空间查找和子空间样本分配的相互依赖,更加准确地寻找包含簇的子空间。进而设计了一种同时进行维度选择和维度加权的子空间聚类算法。实验结果表明本文中提出的子空间聚类算法较现有算法有一定的性能优势。其次,针对多视图聚类算法中各个视图内簇分布不一致的现象,第四章提出一种为各个视图簇增加权重的多视图聚类算法。通过为各个视图内区分度更高的簇赋予更大权重,更好地利用视图间的信息优势,增加簇分配准确度。实验结果表明本文提出的赋簇权重多视图聚类算法提升了聚类性能。再次,针对多视图数据中存在的视图内表象缺失的现象,第五章提出了一种数据不完全对应的多视图聚类算法。算法能够利用二分图将不完整的实例的表象进行匹配,从而使多视图聚类可以处理更广泛的实际数据集。实验结果表示本文提出的此多视图聚类算法能够正确地处理含有不完整实例的多视图数据,并能得到准确的聚类结果。最后,本文研究了深度神经网络与多模态聚类中的早期信息融合问题,第六章提出了一种基于交叉重构的深度多模态聚类算法。为在利用自编码器提取各个模态潜在特征时,以便与其它模态的信息进行融合,框架设计了全局交叉重构和局部交叉重构两种新式自编码器网络,并且基于两种网络设计了两种聚类算法,并将其整合到一个框架中。实验结果表明,交叉重构能够充分利用多模态信息,提高聚类效果。本文开展的研究表明,通过发掘数据内在规律,合理设计算法,利用创新工具等科学研究方法,提升了若干数据聚类任务的性能,扩展了应用范围,为无监督学习的发展做出了一点贡献。