自由空间光通信(FSO)是指在两个或多个终端之间,利用激光光束作为载波、以自由空间环境作为信道的一种通信方式。由于其拥有无需频带许可、抗电磁干扰能力强、安全性高等诸多优点,FSO逐渐获得了学者们的广泛关注。传统的自由空间光通信系统主要采用的是二进制开关键控(OOK)的调制方式。该系统的优点是结构简单、易于搭建、成本低。但其缺点是探测灵敏度相对较低,光谱效率相对较低。因此,OOK系统并不适用于超高速通信。与传统的OOK系统相比,基于高阶信号调制相干探测的光通信系统具有信道选择性好、光谱效率高以及探测灵敏度高的优势。但是,高阶信号相干光通信系统的信号光在传输过程中极易受到大气湍流的影响,从而出现光强起伏以及相位抖动的现象,进而导致系统性能的急剧下降。因此,研究并克服大气湍流对于高阶调制自由空间相干光通信系统的影响具有重要的意义。本文首先对自由空间光通信研究的背景意义及国内外发展现状进行了回顾与讨论。随后,对大气信道进行了介绍。接下来,为了抑制湍流对于高阶自由空间相干光通信的影响,提出了两种系统设计方法,同时研究并分析了大气湍流对于它们所造成的影响。最后,搭建了等效实验,验证了以上两种系统方法的有效性。本文的主要工作内容如下:1.介绍了大气信道的衰减现象、散射现象、湍流现象以及大气折射率结构常数模型、折射率起伏功率谱密度模型等相关内容。分析了大气湍流影响下空间相干光通信系统的理论模型,利用平面波理论研究了大气信道所引起的信号光强抖动以及相位抖动给系统所带来的影响。2.针对大气信道特性,提出了基于双自适应门限幅度调制的相干光通信系统设计方法。分析并推导了该方法下系统的误码率以及探测门限的概率密度函数表达式。利用仿真实验验证了该方法下系统的误码率性能。3.为了获取更高的系统性能以及光谱效率,提出了基于幅值相位联合校正算法的8-QAM自由空间相干光通信系统设计方法。利用仿真实验验证了该方法下系统的有效性,并将实验结果与其他系统进行了对比与分析。4.设计并搭建了基于高阶调制相干探测的自由空间光通信实验平台以及用于模拟大气湍流的大气光强闪烁回放装置。利用上述设备,开展了速率为2.5Gbps的基于双自适应门限幅度调制的相干光通信系统以及基于幅值相位联合校正算法的8-QAM相干光通信系统的通信实验,验证了两种系统在不同湍流条件下的系统性能。本论文所进行的相关研究能为大气湍流信道下高阶调制自由空间相干光通信系统的设计与实现提供理论支撑,具有一定的参考意义和价值。