本文主要研究低秩表示模型及算法应用。近年来,低秩表示的理论及应用得到了许多学者的关注,并在图像处理、数据分析等多个领域获得了成效。如何将在高维数据中隐藏的低秩结构精确地恢复出来是利用低秩表示来解决各个领域中问题的关键,然而对于低秩表示模型的求解是一个NP难的问题,因为在低秩表示模型中通过实现对矩阵的低秩约束来达到矩阵恢复的目的,但是秩函数是离散函数。现行模型通常以核范数去近似秩函数,虽已可到达秩近似的作用,却在许多实际问题实验中核范数暴露出了存在近似矩阵秩的不足缺陷。针对现有低秩表示模型存在的问题,通过两类非凸秩近似函数改进了低秩表示模型,提出了两种基于非凸秩近似的低秩表示优化模型,并设计了相关算法进行求解,最后应用于子空间聚类中。主要工作概括如下:第一,介绍了关于低秩表示模型的相关理论知识,包括子空间聚类、低秩表示模型、交替方向乘子法、非凸近似函数等相关知识。首先,对低秩表示模型的应用背景,即子空间聚类问题进行了介绍。其次,概况了低秩表示的一般模型及研究发展,利用交替方向乘子法算法对低秩表示模型进行求解,给出了算法求解一般框架。最后,分析了在低秩表示模型中核范数作为矩阵秩近似存在的不足。第二,针对低秩表示模型中标准核范数极小化问题存在的矩阵秩近似偏差的问题,对现有的低秩表示模型的低秩系数矩阵进行了快速矩阵分解,将低秩矩阵分解为小规模矩阵;同时使用对数行列式函数作为低秩矩阵的非凸秩近似函数,建立了基于对数行列式函数的低秩表示模型。利用线性化技术,采用交替方向乘子法求解模型,求解得出模型中各个子问题最优解。对求得的低秩表示矩阵进行构造相似矩阵,将其应用到子空间聚类中。以对数行列式函数作为矩阵秩非凸近似正则项要优于传统的核范数,提高了算法的精确度,得出了更准确低秩矩阵恢复效果。最后,数据实验验证了提出的方法比现行方法具有更强的有效性与鲁棒性。第三,针对图像识别中的人脸识别问题,改进了低秩表示模型,在基于低秩表示模型中使用了一种新的非凸秩近似函数,即指数函数,建立了基于指数函数的低秩表示模型。指数函数是比传统的核函数更精确的非凸秩近似函数,利用指数函数做系数低秩矩阵的非凸秩近似,能够更清晰的找到数据内潜在结构的低秩表示矩阵。采用交替方向乘子法求解低秩不表示模型,最后将低秩表示模型用于子空间聚类。通过人脸聚类数据实验,表明本文方法对于人脸聚类问题聚类错误率更低,说明了本文方法的有效性和鲁棒性。最后,对论文的主要内容进行了总结,对论文中提出的算法进一步分析了其存在的不足,并对下一步的研究提出了的方向。