随着信息网络的快速发展,对于高带宽、大容量的通信网络的需求越来越迫切。然而常规单模光纤的最大容量几乎已达到其物理极限,空分复用作为一个全新的维度,能够使信道的传输容量得到较大的提升。空分复用中的模分复用技术可通过少模光纤中的各个模式独立地传输信息,从而成倍地提高单根光纤的传输容量。模式复用/解复用器可实现模式转换和复用,是模分复用的关键器件。其中基于多平面光转换（MultiPlane Light Conversion,MPLC）的模式复用/解复用器具有重构性强,插入损耗低和串扰低等优点,并且可以同时实现上百个模式的转换和复用,降低了模分复用系统总体的复杂程度。面对大气湍流下的弥散光斑（多个横模组合）,基于MPLC的模式解复用器可将多个横模组合进行分集接收,从而有效提高空间光到单模光纤的耦合效率以及抗大气湍流抖动能力。为此面向大气激光通信的应用,论文研究了基于MPLC的模式复用/解复用器的基本原理,设计仿真模型,并对基于MPLC的空间光到单模光纤的耦合性能进行理论推导、仿真分析以及实验研究。具体研究内容如下:1、论文整理了模式复用/解复用器的国内外研究现状,特别是基于MPLC的模式复用/解复用器的器件设计以及应用方面的国内外研究进展,总结了MPLC的设计和应用的发展趋势。2、研究了模式转换和复用的基本理论,包括空间光束传播理论、透镜的位相调制和傅里叶变换性质以及多平面光转换的基本原理;研究了高斯光束和厄米特-高斯光束的光场分布,以及基于MPLC的波前匹配算法的原理,并针对上述原理完成了算法设计以及代码编写。3、基于编写的算法建立了MPLC的三模式复用/解复用器的仿真模型,仿真研究了每个相位片上的相位掩码和通过相位片后的光场分布,同时分析了MPLC的插入损耗、模式相关损耗和串扰;然后仿真分析了波长、相位片数量和间距等因素对MPLC的性能影响,结果表明:随着增加相位片数量,光束转换更平滑,减少了能量的损失。4、建立了理想情况下空间光到光纤的耦合效率仿真模型,以单模光纤和三模光纤为例,分析了不同光斑尺寸对空间光到光纤耦合效率的影响;建立了基于功率谱反演法和Zernike多项式展开法的大气湍流仿真模型,利用随机相位屏模拟大气湍流。在耦合效率模型和大气湍流模型基础上仿真研究了基于MPLC模式解复用的大气湍流下空间光到单模光纤分集接收,MPLC空间模式分集转换的耦合性能均优于空间光到单模和三模光纤的直接耦合效率。5、设计了空间光调制器的光场调制实验,研究了空间光调制器对输入光场空间分布的调制特性;然后设计了基于MPLC三模式解复用的空间光到单模光纤的耦合性能实验,利用自制湍流片模拟大气湍流,实验研究了MPLC使用3个和5个相位掩码进行解复用的光斑轮廓和光功率抖动情况,以及解复用的光束的耦合效率。实验结果表明5个相位掩码的光斑轮廓较为完整,光功率抖动较小。最后设计了空间光直接到单模和三模光纤的耦合效率实验。相比于空间光直接到单模和三模光纤的耦合,基于MPLC三模式解复用的空间光到单模光纤的耦合效率分别提升31.52%和31.45%。基于MPLC模式解复用的空间光到单模光纤的耦合性能仿真分析和实验研究结果,为提高大气激光通信中空间光到光纤的耦合效率提供技术选择。