光纤中的交叉相位调制将导致非线性双折射,从而引起偏振不稳定性。偏振不稳定性表现为当输入偏振态有很小改变时,输出的偏振态有很大的变化。本文主要利用相图以及数值模拟法,通过庞加莱球表示,对低双折射光纤中耦合模偏振态进行了稳定性分析。全文由引言、正文、结语三个部分组成。前沿部分介绍了选题意义,前人研究等内容。正文分三章：第一章,从光传输的基本方程出发,利用准单色慢变包络近似得到了低双折射光纤中耦合模的传输方程。第二章,主要论述了庞加莱球表示方法以及偏振态衍化表示方法。第三章,通过对低双折射光纤中的非线性耦合模方程引入斯托克斯参量表达式,利用庞加莱球,分析了非线性相干耦合波在低双折射光纤中传输时,在不同的双折射区域,其偏振态的演化规律；并通过数学几何方法得到了产生偏振态非稳定性的临界功率,以及证实了当两个运动常量满足R=Γ时,系统偏振态衍化将会变得不稳定,其两端偏振态衍化将出现明显变化。最后结语部分,对低双折射光纤中偏振态不稳定性原理进行了总结,提出了自己的观点和认识。