随着科学研究的快速发展与工程应用需求的增长,激光通信技术对通信速率和误码率的要求也越来越高,而复杂的大气信道环境对激光通信系统数据传输性能有较大影响,激光信号在大气信道传输过程中会产生光强闪烁、光束漂移等现象,导致数据传输误码率增加。为克服上述影响,常采用编码和均衡等技术对激光信号进行处理,无法在强湍流信道中有效提升通信系统性能,无法满足低误码率条件下高速率数据传输需求。本文针对大气激光通信系统湍流信道传输性能优化的需求,结合长短期记忆网络（LSTM,Long Short-Term Memory）对处理时间序列信号的优势展开研究,设计一种基于LSTM神经网络的信道均衡方法,通过实验对所提出的方案进行了验证并进行分析。主要研究工作如下:1)对大气激光通信与信道均衡进行了理论分析。首先介绍了开关键控（OOK,On-Off Keying）调制和脉冲位置调制（PPM,Pulse Position Modulation）的基本原理并阐述PPM调制技术的优势,然后探讨了大气湍流效应对激光信号的影响和湍流强度的表征方式,最后介绍了信道均衡技术的基本原理,并对传统的最小均方（LMS,Least Mean Square）算法和恒模盲均衡（CAM,Constant Modulus Algorithm）算法进行仿真。2)对基于神经网络的大气激光通信信道均衡技术进行研究。首先对神经网络的基本原理进行分析,提出了适用于PPM调制信号的均衡方法和神经网络均衡器的训练优化方法,然后设计了基于LSTM神经网络的均衡器结构,通过分析均衡器内部激活函数组合、训练算法以及优化算法选择了合适的参数,最后对LSTM神经网络均衡器进行了仿真,验证理论分析。3)开展了大气激光通信均衡技术实验。首先搭建了一套大气激光通信传输系统,利用大气湍流模拟装置模拟不同强度的大气湍流,分析了不同强度的大气湍流对信号光功率稳定性的影响;然后采集经大气湍流传输后的数据进行离线处理并提出了一种样本集中随机选取的训练方法对LSTM神经网络均衡器进行训练;最后对LSTM神经网络均衡器误码性能进行验证,并与LMS、CMA和深度神经网络（DNN,Deep Neural Networks）衡算法进行了对比。研究结果表明,使用LSTM和DNN作为均衡器可以有效降低误码率,而LMS和CMA均衡算法在中强湍流强度下已逐渐不足以补偿湍流信道对光信号传输的影响。使用本文提出的LSTM神经网络均衡器在各种强度的湍流下均比无均衡时的误码率降低1个数量级,并且在中强湍流下仍可以牺牲较小的功率来维持低误码性能。