低秩约束矩阵优化是指带有低秩集约束的矩阵优化问题,在统计与机器学习、信号与图像处理、通讯与量子计算、系统识别与控制、经济与金融等众多学科领域有着广泛应用,是当前最优化及其相关领域的一个重点研究方向.秩函数是非凸非连续并带有组合性质的函数,通常来说,低秩约束矩阵优化是NP-难的,传统的凸优化理论很难处理这类问题.因此,对于直接处理低秩约束矩阵优化的最优性理论很少被研究.本文主要借助于可行集的切锥和法锥,研究低秩约束矩阵优化的最优性条件.从低秩集约束矩阵优化问题,到低秩谱集约束矩阵优化问题,再到低秩仿射集约束矩阵优化问题,逐步深入地展开最优性理论的研究.这些结果将丰富低秩矩阵优化的最优性理论,并为设计有效的数值算法用以寻找低秩解提供保障.针对低秩集约束矩阵优化问题,给出计算低秩集Clarke切锥和Clarke法锥的表达式,结合已知的低秩集Frechet和Mordukhovich法锥,我们研究了此问题的四类稳定点,并分析了各类稳定点与该问题的局部/全局极小点的关系.此外,借助Clarke切锥,进一步建立了二阶最优性条件.最后,给出实例对我们所建立的最优性理论的有效性进行了说明.针对低秩谱集约束矩阵优化问题,考虑了三个典型的谱集,由此产生三种低秩谱集.对于每个低秩谱集,首先给出该集合在给定点的投影以及Frechet法锥的可计算的表达式.在此基础上,研究了低秩谱集约束下矩阵优化问题的稳定点.最后,揭示了每个稳定点与局部/全局极小点之间的关系,并给出了一阶和二阶最优性条件.进而利用图相似矩阵的低秩逼近问题和量子层析问题两个例子,对所建立的最优性条件进行了解释.针对低秩仿射集约束矩阵优化问题,通过引入限制形式的线性无关约束规范,建立了可行集的Frechet法锥的交规则.进而,根据F-稳定点和α-稳定点的定义,提出该问题一阶最优性条件.此外,根据切锥的性质还给出了二阶必要条件和二阶充分条件.最后,讨论了几种特定应用实例,阐明了我们提出的最优性条件的理论意义.