由于光纤制造技术的发展,以光纤为工作介质的光纤激光器,在光束质量、制造成本、稳定性和阈值性能等方面具有显著的优势,是目前国内外激光器领域研究的重要方向,拥有广阔的应用前景。随着对激光峰值功率需求的提升,产生超快脉冲的锁模光纤激光器发展迅速,它在通信、传感、工业、国防等领域有着重要的影响。过去对于锁模光纤激光器的研究主要围绕单模光纤展开。近年来,多模光纤激光器逐渐吸引了研究者们的注意。与单模光纤激光器输出的基模光束相比,多模光纤激光器输出的柱矢量光（Cylindrical vector beam,CVB）和平顶光束等在激光加工、粒子操纵、激光通信等方向有着独特优势。另一方面,大模场面积的多模光纤突破了单模光纤中输出功率与脉冲能量的限制且由于多模光纤支持较多的横向模式,模式间的相互作用使多模光纤中的非线性效应非常复杂。在此背景下,本论文研制了全光纤结构的多模光纤锁模激光器,得到了横向光场分布呈现“甜甜圈”形状的CVB以及具有均匀光场分布的平顶光束的锁模脉冲输出,在工业、医疗和科研等领域发挥着独特的应用优势。在此基础上研究了多模光纤中的非线性效应对高阶模式传输特性的影响,为高功率多模光纤激光器的发展奠定了基础。本文的主要研究成果如下:1.基于保偏多模光纤中的模式叠加原理实现了一种全保偏结构的锁模脉冲CVB光纤激光器。整个激光器中无需加入任何偏振控制器件,并且全保偏的结构使其拥有较高的抗干扰能力,在实际应用中具有广阔的前景。2.模拟了基模光束与CVB叠加得到平顶光束的过程,并基于此方法搭建了全保偏结构的锁模脉冲平顶光束光纤激光器。合成得到的平顶光束轮廓的归一化均方根约为0.069,具有较高的平整度。因为同一谐振腔输出脉冲的重复频率一致,所以叠加得到的平顶光束脉冲在时域上可以完全重叠,从而得到更高的单脉冲能量。3.对于高峰值功率的锁模脉冲而言,光纤的非线性效应不可忽略,为研究光纤中横向模式的非线性传输演化,我们基于全矢量有限元的方法实现了一种光束传播算法,并利用此算法模拟CVB在光纤中的非线性传播演化,证明CVB横向稳定性较差的特点,这导致环形光场的分裂。此外,我们提出了一种近似稳定性理论分析克尔非线性介质中CVB的稳定性,该理论分析的结果与模拟结果基本一致。模拟与理论结果证实了低非线性条件下CVB空间光孤子的形成,这些结果对高功率CVB光纤激光器的发展具有指导意义。4.搭建了全光纤结构的时空锁模激光器,当激光器于锁模状态下运转时,其光束质量得到了显著提高。当时空锁模脉冲经过多模光纤放大器后,观察到了明显的模式自清洁现象。最终我们在基于渐变折射率多模光纤的全光纤系统中获得高功率、高光束质量的脉冲激光。全光纤的腔体结构具有稳定性高、结构紧凑、成本低等优点。我们认为该激光器具有高损伤阈值、高脉冲能量和高光束质量的特点,在高功率多模光纤激光器领域具有潜在的应用价值。本文的创新点如下:1.利用保偏多模光纤中的模式叠加原理,实现了一种全保偏结构的锁模脉冲CVB光纤激光器,从而解决高阶模式互相耦合的问题,得到高稳定性的锁模脉冲CVB激光。2.利用保偏多模光纤中的基模光束与CVB叠加得到平顶光束,实现了一种锁模脉冲平顶光束光纤激光器,从而解决光纤中连续光运转的平顶光束峰值功率较低的问题,得到高稳定性的锁模脉冲平顶光束。3.基于全矢量有限元方法实现了一种光束传播算法,模拟CVB的非线性传播过程,并提出了克尔非线性介质中的近似稳定性分析理论对其稳定性进行讨论。高度一致的模拟与理论结果对高功率CVB光纤激光器的发展具有指导意义。4.实现了全光纤结构的时空锁模自清洁激光器,在多模光纤中得到了高光束质量的锁模脉冲。