激光是二十世纪推动人类社会进步的重大发明之一。激光技术的发展不仅激励了基础科学的前沿探索，更已成为国家新兴战略产业腾飞的亮点领域。作为下一代超短脉冲激光光源，光纤激光器凭借其结构紧凑、成本低、散热好、效率高及便于操作等优势，广泛应用于光通信、光传感、精密测量、微加工、生物医疗和非线性光物理学等领域。光纤激光技术的发展具有科学研究和实际应用的双重价值。一方面，超快光纤激光作为光孤子动力学研究及超快、超强非线性光物理学探索的重要手段，将进一步加深广大研究人员对激光物理学本质的认知，并揭示更多未知的光物理学规律与奥义；另一方面，新机理、新材料、新技术的融合将推动光纤激光器的功能革新，从而拓展更为广阔的应用前景。　　本论文以光纤激光器的应用需求和发展趋势为导向，对三类特种光源，即波段复用光纤激光器、高重复频率光纤激光器和类噪声光源进行系统性研究；同时，以被动锁模光纤激光器为实验平台，分别对束缚态脉冲和矢量脉冲两类脉冲复合体的动力学特性进行深入探索。本论文构建起光纤激光器功能化设计、应用分析及动力学探索“三位一体”的研究体系，主要研究成果如下：　　(1)波段复用孤子光纤激光器：首先提出一种基于半导体可饱和吸收镜(SESAM)和双臂马赫-泽德干涉仪(MZI)的波长可调谐孤子光纤激光器；得益于MZI灵活的波段配置功能，实现了孤子中心波长及带宽的调谐。接下来，设计了一种工作波长拓展至1605nm附近的被动锁模光纤激光器，结合运转方向维度的复用技术，实现了长波段双向锁模孤子的输出，并对激光器顺时针和逆时针方向的谐波锁模现象进行了研究。最后，对复用型光纤激光器的设计思路进行了分析，提出了波段复用和双向锁模复用技术融合的新构想。　　(2)高重复频率耗散孤子光纤激光器：通过采用波分复用器/隔离器/输出耦合器集成型光纤器件、透射式半导体可饱和吸收体(SESA)及具有大正色散的重掺杂掺铒光纤(EDF)，我们设计了一种净正色散的高重复频率耗散孤子光纤激光器，实现了重复频率为129MHz基频锁模耗散孤子和258MHz二阶谐波锁模耗散孤子的输出。同时，首次在实验上观察到高重复频率耗散孤子的周期分叉现象，并对其产生机理进行了解释。研究表明，通过参数优化，激光器的重复频率及工作稳定性可进一步提升。　　(3)类噪声光源：首先在长波段双向锁模光纤激光器中实现了孤子锁模状态和类噪声脉冲锁模状态的切换，并观察到类噪声脉冲2-6阶谐波锁模的现象。然后，开展了基于半导体光放大器部分光反馈类噪声宽谱混沌光源的研究，实现了3dB带宽达50nm宽谱混沌光的输出，并对宽谱混沌光的光纤链路故障监测功能进行了研究。最后，探索了类噪声宽谱混沌光源在大容量光纤传感网络中的应用；在验证性实验中，得到了0.14%RAC/με的轴向应力测量灵敏度和2.8cm的定位空间分辨率，实现了光纤故障的实时监测。　　(4)束缚态脉冲的动力学研究：首先以基于二硫化钨(WS2)可饱和吸收体的光纤激光器为实验平台，揭示了负色散区束缚态孤子的动力学特性；实验观察到了双孤子束缚态以及束缚态孤子束缚态的现象。接下来，以近零色散区展宽脉冲光纤激光器为实验平台，对束缚态展宽脉冲的动力学特性进行研究；实验分别观察到紧密和松弛的双脉冲束缚态，三脉冲、四脉冲、五脉冲、六脉冲、七脉冲、十一脉冲的等间距多脉冲束缚态，以及具有不同脉冲构型的非等间距多脉冲束缚态。研究表明，束缚态脉冲可以作为一个整体基元与其他脉冲相互作用，从而形成更为复杂的脉冲复合体。　　(5)矢量孤子的动力学研究：其一，以负色散区双折射管理光纤激光器为实验平台，揭示了双折射对群速度锁定矢量孤子偏振动力学特性的影响，并首次对群速度锁定矢量孤子分子这种二维孤子复合体进行了探索，研究发现这种二维孤子复合体兼具孤子分子和矢量孤子的双重特性。其二，以高重复频率耗散孤子光纤激光器为实验平台，开展了群速度锁定矢量耗散孤子偏振动力学特性的探索；模拟研究发现双折射的增强会使得矢量耗散孤子两正交偏振分量的中心波长差增大，实验分别观察到具有偏振（旋转）锁定演化特性的基频锁模矢量耗散孤子和具有偏振旋转演化特性的谐波锁模矢量耗散孤子，同时也观察到了群速度锁定矢量耗散孤子分子这种二维复合体。