十九世纪80年代末,Picard和Vessiot将代数方程的Galois理论推广到齐次线性微分方程组,建立了微分Galois理论.上世纪九十年代,Morales-Ruiz和Ramis等人结合微分Galois理论和Ziglin理论,建立了解析哈密顿系统不可积性的判定准则,并取得了一系列的重要成果.在这篇论文中,我们将利用微分Galois理论研究非线性动力系统的可积性与不可积性,尝试探讨系统的不可积性与混沌等复杂行为,系统的可积性与弱Painlev′e性质之间的关系.全文共分五章,第二,三,四,五章为主要工作.第二章,我们分别在概率1和期望不变意义下引入随机微分方程局部首次积分的定义,给出了它们的代数刻画.同时,我们将关于常微分方程经典的Poincar′e不可积定理推广到随机微分方程,利用共振条件分别给出了随机微分方程存在局部强、弱首次积分的必要条件.最后,我们将所得结果应用于随机Sharma-Parthasarathy两体方程等模型.第三章,我们应用微分Galois理论等方法研究数学物理中几类三维系统的可积性与不可积性,包括Lorenz系统,Shimizu-Morioka系统以及广义Rikitake系统.我们的结果表明对参数几乎所有的取值这些系统都是不可积的.对Lorenz系统（?）当（?）时,Lorenz系统存在两个函数独立的积分[J.Phys.A.38（2005）2681–2686];当α=0时,我们给出了Lorenz系统不存在亚纯首次积分的充分条件;当（?）且（?）时,我们证明了Lorenz系统形式首次积分的存在性.对Shimizu-Morioka系统（?）当（?）时,我们证明Shimizu-Morioka系统是Rucklidge系统的一种特殊情形,并利用Rucklidge系统的相应结果讨论了Shimizu-Morioka系统的达布可积性.当（?）时,我们利用代数几何中的Gr?bner基研究了Shimizu-Morioka系统的达布可积性,找到了所有次数不超过三次的不变代数曲面和指数因子.当（?）时,通过分析变分方程的微分Galois群的性质,我们证明了Shimizu-Morioka系统对参数几乎所有的取值在广义刘维尔意义下都不是有理可积的;当（?）时,我们利用Kowalevski指数证明了Shimizu-Morioka系统不是代数可积的.对广义Rikitake系统（?）我们给出了其在可积情形下的一族可积变形并且证明了其具有无穷多的哈密顿-泊松实现和双哈密顿结构.在一般情形下,给出了广义Rikitake系统不可积的充分条件,并讨论了解析首次积分的不存在性.第四章,我们首先利用Kowalevski指数给出了拟齐次系统是完全可积的一些必要条件.作为应用,我们证明了如果-1是Kowalevski矩阵的简单根,那么多项式微分系统的代数可积性蕴含了弱Painlev′e性质,这部分地解决了Goriely提出的猜想[J.Math.Phys.37（1996）,1871-1893].其次,我们考虑了齐次牛顿系统在广义刘维尔意义下的可积性.通过分析沿尺度不变特解的变分方程的微分Galois群的性质,证明了如果齐次牛顿系统在广义刘维尔意义下是亚纯可积的,那么所有可能的Kowalevski指数都必须是有理数.第五章,我们探讨保守系统的部分可积性和变分方程的Galois群结构之间的关系,证明了如果9)-维保守系统具有9)-2个函数独立的亚纯首次积分,那么沿特解的法向变分方程的微分Galois群的单位分支是可交换的,沿特解的变分方程的微分Galois群的单位分支是可解的.利用该结果,我们证明了描述有限深度流体中孤立波维特级数解的五维Karabut系统有且仅有两个函数独立的多项式首次积分,从部分可积性的角度改进了文献[Nonlinear Anal.32（2016）91–97]中的结果。