自上世纪90年代以来,涡旋光束因其携带的轨道角动量,在光通信、光学微操控、光信息处理等方面具有重要潜在应用价值而得到了广泛关注。对自由空间光通信而言,涡旋光束可以极大地提高信道容量,但由于大气湍流对光束相位的随机扰动,引起了光斑扩展、光束漂移、光强闪烁等一系列常见湍流效应,此外对涡旋光束相位的扰动还会造成螺旋谱弥散、模式纯度降低,这些传输效应对光束的通信性能造成了极大的影响。为了分析大气湍流对涡旋光束的影响,本文采用了理论推导、数值方法相结合的研究方式。由于涡旋光束模型的复杂性,之前的研究中通常只对低阶（拓扑荷为±1）情况进行研究。本文针对高斯涡旋光束（GVB）模型进行研究,利用欧拉公式处理后级数展开,以便于积分处理,结合广义Huygens-Fresnel原理和Rytov近似,可以推导出任意阶GVB的平均光强表达式。该方法同样适用于GVB的复合光束模型在自由空间/大气湍流中传输的解析推导,后面以对称双涡旋光束和阵列高斯涡旋光束（GVBA）为例给出了传输后复振幅（自由空间传输）/平均光强（大气）的结果。在此理论基础上,本文系统地研究了GVB、对称双涡旋光束、GVBA的大气传输特性,并对GVB、GVBA的模式纯度和通信性能进行了分析。本文具体研究内容包括:1、推导了任意阶GVB经大气湍流介质中传输后的光强表达式,并对光束的扩展、漂移和闪烁情况进行了仿真分析,结果表明湍流强度和拓扑荷的影响要明显大于其它参量。针对多涡旋光束一种特殊情况——对称双涡旋光束的传输特性进行了研究,给出了其在真空中传输后的复振幅,数值仿真后与之前的研究结果对比验证了方法/结果的可靠性,之后研究了大气湍流中对称双涡旋光束的光强演化情况进行了研究,结果表明光束中光学涡旋数目与整体拓扑荷数对光束的演化都有着显著的影响,当光束中携带两个拓扑荷绝对值相等的光学涡旋时,该光束经湍流传输过程中这对光学涡旋非常稳定。2、推导了GVBA经大气湍流传输后的平均光强表达式,分析了两种分布形式的GVBA在自由空间和大气湍流中传输时的光强演化情况,结果表明两种GVBA在大气湍流中传输一段距离后都会融合为类高斯涡旋光束,随着传输距离的继续增大,光束会进一步退化为类高斯光束。在此基础上通过数值积分得到了光斑扩展结果,对比GVBA和GVB的束宽结果可知,随着传输距离的增大,GVBA与GVB最终的束宽会趋近,即光束扩展由衍射效应主导。分析了径向GVBA的光束漂移,发现光束参量或湍流参量对光束漂移均有较大的影响,且光束漂移与阵元数目、拓扑荷存在一定的线性关系。利用多相位屏法分析了径向GVBA的光束漂移/光强闪烁,闪烁指数随着传输距离的增大一般都呈现出先上升,再下降,之后趋于平稳的过程,通过合理选择GVBA的参数,可以得到比GVB低的多的闪烁指数,这对于OAM通信应用的研究具有重要意义。3、基于相位屏的数值方法得到GVB经大气传输之后的光场结果,螺旋谐波展开得到涡旋光束的螺旋谱,进而计算了描述光束通信性能的一些参量如模式纯度、信道容量。计算了GVB在大气中的闪烁指数,对基于二进制启闭键控（OOK）调制的通信系统误码率进行了研究,研究表明即使在弱湍流下传输至1000m处误码率也很难达到通信要求。分析了GVBA相干合成得到的涡旋光束模式纯度,与阵列高斯光束（GBA）合成涡旋光束的情况进行对比,结果表明阵元数目、子光束束腰半径越大,组束环半径越小,即光束阵列越密集,则光束的模式纯度越高。此外,无论（径向分布）GBA或是（径向分布）GVBA,随着在自由空间中传输距离的增大,模式纯度都会经历一个激增的过程,不同之处在于,GBA的模式纯度在激增过后缓慢下降,而GVBA的模式纯度则急剧下降,最后保持与源平面处相近的水平,单从这个角度来看,GBA的合成效果要比GVB好。