相干光通信系统具有较高的接收灵敏度,可实现远距离和高码率的数据传输,是自由空间光通信技术的重要发展方向。然而,大气信道中湍流引起的折射率随机起伏,导致激光信号的振幅和相位发生随机波动,降低相干检测效率,影响通信系统的性能。系统地研究大气湍流对相干光通信系统性能的影响,探索抑制湍流效应、改善光通信系统性能的方法具有重要的理论意义和应用价值。此外,目前关于湍流对空间相干光通信性能影响的研究主要是基于平面波模型和单端探测方式,平面波模型无法体现光束半径对系统性能的影响。另外,光相干技术中的平衡探测是改善相干光通信系统性能的新技术。本文将开展基于平衡探测方式下的大气信道相干光通信系统性能的研究。本文系统地分析了湍流对基于平衡探测方式下的空间相干光通信系统性能的影响,其中信号光和本振光根据实际情况分别选择平面波模型和高斯光束模型。得出了在无湍流和有湍流影响下该模型中的信噪比概率密度分布函数及误码率计算表达式。在此基础上,针对近地水平传输链路,在无相位补偿和采用自适应相位补偿两种条件下,研究了光强闪烁指数和相位波动方差对系统误码率的影响;同时还分析了孔径平均效应对接收孔径直径的最优值的影响。数值计算了星地下行传输链路,孔径平均效应和天顶角对系统误码率的影响。本文最后基于实际测量的不同天气下的大气信道衰减系数,利用Optisystem软件,对空间相干光通信与非相干光通信系统性能进行了仿真,通过接收端的眼图分析比较了不同天气条件下两种通信方式的接收性能。