自由空间光通信(FSOC,free space optics communication)技术直接利用激光在大气或外太空中进行信息传递,由于该技术具有带宽潜力大,无频谱资源限制,功率要求低,架设收发装置简单,成本低等优点,已成为国内外研究的热点,在星地通信,星星通信,边海防和民用通信等多领域有广泛应用。随着无线通信中的“最后一公里”课题对高带宽、低成本接入技术需求的提升,FSOC系统在近地通信应用中逐渐得到重视。但是,由于大气湍流导致在光束传播路径上发生相位畸变,导致接收端的波束质量下降,发生光强起伏、光束漂移、到达角起伏等现象,进而造成接受端的光束耦合下降、能量耗散,使整个FSOC系统的误码率(BER,bit error rate)大大上升,严重影响通信质量。自适应光学(AO,adaptive optics)系统是一种实时探测和校正光束动态波前像差的新技术,作为一门集科学性和工程性为一体的综合学科,该技术已经在人眼视觉改善,高速激光传输以及天文观测等领域起到关键作用。目前,AO技术在FSOC的波前像差校正研究中也占有着越来越重要的位置。本文首先简要分析大气湍流对激光传输以及FSOC系统的影响,并且从波前探测、波前重构和波前控制三个方面对AO系统进行详细介绍。随后在此基础上建立AO系统的数值模型,用于AO系统校正波前像差校正的理论研究。进而搭建简易的AO波前像差校正系统,对部分无波前传感的AO系统波前像差校正算法进行了实验验证。本文的主要研究工作集中于以下几个方面:1.阐述本课题研究的意义和背景,重点从FSOC系统国内外研究情况和AO技术国内外发展情况两个方面进行介绍,并且结合发展情况分析了传统AO系统以及无波前传感的AO系统在FSOC系统中应用所存在的技术问题。2.简要地从系统BER和耦合效率、Strehl比这几个方面分析了大气湍流效应导致的相位倾斜和高阶像差对于FSOC链路通信性能的影响,并且详细介绍了传统的AO系统和无波前传感的AO系统的工作原理。3.研究了基于传统AO系统的波前像差校正。首先,考虑包含时延的AO系统模型,将Kalman滤波器理论引入AO系统之中,随后提出一种新型的记忆衰退Kalman滤波控制算法,对基于Kalman滤波的控制系统进行改造和优化,使之在某一帧预测准确性较差的情况下(可能由于静电脉冲或其它不可预料的原因导致),能够快速恢复正常在线工作状态,以减少在“自愈”过程中有效信息的丢失。随后,还提出另外两种Kalman滤波器的等效变形(贯序Kalman滤波和U-D Kalman滤波),使之更加适应于在工程实践中移植到嵌入式系统中。作为补充,针对比例-积分(PI,proportion-integration)控制这一工程上使用最为广泛的传统控制方法,提出几种新型的群智能优化算法的PI参数整定方案。4.在传统的AO系统中,由于过多的波前传感器子孔径会使光强发生分散,使每个子孔径内的光强低于探测门限,导致AO系统失灵,严重的话甚至会造成FSOC链路无法通信,因此需要对无波前传感的AO系统(包括model-free方法和model-based方法)进行研究。一方面的研究主要基于model-based方法,本文首先介绍几种已存在的方法,包括:Martin J.Booth方法、Huang Linhai方法和Jacopo Antonello方法,随后提出一种基于BP人工神经网络的波前相位畸变探测方案,该方法与已有的model-based方法相比,具有在线探测次数少,系统实时性好等优势。该方案需要一定的前期离线操作,但是合理的数据结构管理方案和快速发展的硬件设备可以解决这一问题,并且该离线操作不会对AO系统波前像差连续校正的实时性产生不良影响。另一方面,我们还研究了model-free随机寻优算法。这一部分最为经典的是随机并行梯度下降(SPGD,stochastic parallel gradient descent)算法。为弥补其迭代次数过多,局部寻优以及难以满足实时性要求等缺陷,本文提出几种随机搜索优化算法。主要包括:模拟退火(SA,simulated annealing)算法,这是一种全局寻优算法,理论上只要搜索时间足够长,就可以找到全局最优解;改进的混合蛙跳(MSFL,modified shuffled frog leaping)算法,该算法属于群智能优化算法的一种,具有搜索鲁棒性强,全局寻优的特点,但是,如果想要充分体现该算法并行搜索的优点,需要多个AO系统并行同时搜索,设备代价有所提升,本文以串行迭代搜索代替多个个体并行搜索补偿静态波前像差,从而在理论上验证该方案的可行性;基于Zernike模式系数空间禁忌搜索(TS,tabu search)算法,该算法通过将搜索空间从电压向量空间映射至Zernike模式系数向量空间,降低搜索维度,加快搜索速度,保证了校正效果,但是设备代价比起MSFL算法却明显降低。5.对以后的工作做出规划,进一步完善FSOC链路实验平台,为以后的深入研究FSOC系统性能做好实验论证基础。本文将按照以上所述进行详细阐述,给出相关的理论推导和计算机仿真以及实验结果。本文的研究结果可保证在AO系统的作用下,FSOC系统的终端耦合效率大大提升,系统的通信质量将会明显提升。