空间激光通信是以激光为载波,实现信息无线传输的通信方式,因其传输速率高、抗干扰能力强、保密性好等优点逐渐成为当前通信研究热点。激光信号的调制和解调是激光通信链路中的重要环节,由于受到大气湍流的影响,激光在大气信道传输过程中会出现光强起伏、光束漂移等现象,导致传统的解调算法解调难度增加,在复杂的大气环境中无法满足低误码率需求。近些年来快速发展的机器学习算法可以从更深层次提取信号的各项特征,且有较好的鲁棒性和容错能力。因此,本文针对大气湍流下的激光通信脉冲位置调制解调（PPM）系统需求,利用机器学习处理信号特征的优势,设计了基于机器学习的解调算法以降低符号误码率并提高通信系统性能。本文的主要内容包括:（1）对大气湍流信道基础理论进行了分析和探讨。首先描述了大气衰减效应和大气湍流效应,然后分析了湍流信道模型,包括对数正态分布湍流信道和Gamma-Gamma分布湍流信道,最后通过MATLAB对两种湍流信道进行仿真建模,为建立空间激光通信PPM调制解调仿真系统奠定了基础。（2）对PPM调制的基本原理进行了理论分析,并在模拟大气湍流条件下研究了PPM调制的解调算法。首先对传统的最大似然估计算法和固定阈值算法进行分析。然后理论分析了四种机器学习算法模型,包括深度置信网络（DBN）、支持向量机（SVM）、k邻近（k NN）和自适应增强（Ada Boost）。设计了DBN-SVM的解调算法和k NN自适应增强解调算法。最后根据PPM信号特性对DBN算法参数、k NN自适应增强分类器个数等做出了改进,并进行了仿真验证。（3）建立大气湍流下的空间激光通信仿真系统并搭建实验。在实际通信系统中对本文提出的两种机器学习解调算法模型进行验证分析,并与最大似然估计解调算法和固定阈值解调算法对比。实验结果表明,k NN自适应增强解调算法和DBN-SVM解调算法能显著提升通信系统的解调性能。其中k NN自适应增强解调算法性能最佳,DBN-SVM解调算法次之。对于4-PPM信号,当信噪比为14d B时,k NN自适应增强解调的符号误码率低于10-7,DBN-SVM解调的符号误码率低于10-6。此外将k NN自适应增强解调与DBN-SVM解调对比传统解调算法时发现,在符号误码率为10-6时,前者解调性能要好1d B左右,后者几乎一致。