轨道角动量（Orbital Angular Momentum,OAM）复用技术可以极大地提高通信系统的信息传输能力和光谱效率,在自由空间OAM复用光通信中应用潜力巨大,是未来通信方式发展的重要趋势和方向之一。然而在自由空间OAM光通信中,传输介质是大气湍流,大气湍流是动态变化的。动态的大气湍流会造成OAM光束光强和相位的畸变,使得不同OAM模式之间相互串扰,导致OAM信道展宽,通信误码率升高。在以往的研究中,主要研究了静态大气湍流对OAM光通信的影响,而对动态大气湍流对OAM光通信的影响以及如何减弱这种影响较少研究。因此基于此背景,本论文在已有自由空间OAM复用光通信模型的基础上,引入了动态大气湍流,建立了自由空间OAM复用光通信动态模型,改进了像差补偿算法,得到了补偿效果更好的动态探针补偿方法,并应用到OAM复用光通信畸变补偿模型中。主要工作如下:（1）建立了OAM复用光通信动态传输模型,研究了OAM光束在真空传输时的传输特性。在已有的OAM光传输自由空间的理想模型的基础上,根据实际OAM复用光传输情况,研究了动态大气湍流理论,建立了OAM光束在动态大气湍流中的传输模型。同时搭建了动态大气湍流中的OAM光传输仿真平台。根据OAM光传输流程分步模拟了OAM光束在真空传输时光强和相位的变化,获得了OAM光束在真空传输时的传输特性。（2）研究了OAM光束在动态大气湍流中传输时光强和相位的畸变。获得了OAM光束在动态大气湍流中的传输畸变规律。对生成静态大气湍流的三种方法进行了总结,模拟了静态大气湍流。研究了生成动态大气湍流的方法,进行了不同风速、不同湍流强度下的动态大气湍流的模拟。OAM光束在动态大气湍流中传输时,不仅有衍射现象,而且随着大气湍流的动态变化,OAM光束的光强和相位畸变也跟着变化。具体是:湍流由弱变强时,OAM光束的光强和相位畸变会越来越严重,而当湍流由强变弱时,OAM光束的光强和相位的畸变会慢慢减轻。（3）获得了补偿效果更好的动态探针补偿方法。研究了经典像差的原理和制得方法,并在此基础上改进了一步,不再使用高斯光束作为初始光源,而是使用承载传输信息的OAM光束作为初始光源,获得了动态探针补偿方法,并全面比较了像差补偿算法和动态探针补偿方法的补偿效果。结果表明,动态探针补偿方法对单束OAM光的补偿效果比像差补偿算法的补偿效果提高了10%,而对复用OAM光束补偿效果提高了16%。（4）建立了OAM光束在动态大气湍流中的相位畸变补偿模型,定量研究了OAM光束在两种动态湍流变化下的补偿前后的效果。结果表明无论是单束OAM光束还是复用OAM光束,当大气折射率结构常数Cn~2小于1×10-15m-2/3,湍流由弱变强时,用动态探针补偿方法进行补偿,误码率可以保持前向误差校正（Forward Error Correction）的极限(1×10-3)。当Cn~2大于1×10-15m-2/3时,即使采用动态补偿方法进行补偿,误码率也会超过FEC限制。相反,当湍流由强变弱时,如果补偿后误码率低于前向FEC的极限,随着湍流的减弱,通信误码率也始终低于FEC限制。综上所述,利用动态探针补偿方法补偿动态大气湍流造成的光束畸变,这对降低动态大气湍流对OAM光通信系统造成的畸变有重要意义,为研究如何补偿OAM光通信系统在动态大气湍流中的畸变提供了新的思路和理论参考。