随着信息时代的到来，自由空间光通信以其保密性好、抗干扰能力强、通信终端体积小、重量轻等特殊优点日益受到国内外专家的青睐，成为国内外研究的重点。近几年，一些专家学者利用信号光的偏振态进行编码，以获得高数据率、低误码率的通信系统。同时，相干光通信以其接收灵敏度高、通信容量大等优点而受到相关研究人员的广泛关注。而信号光在大气中传输时，大气湍流和散射会造成其偏振特性变化，从而引起偏振编码系统误码率增大、相干探测灵敏度降低。现有研究表明，地面点对点10km左右的水平大气链路可以近似等效星地大气链路。因此研究偏振光束在水平大气中传输时偏振特性变化具有重要的应用价值。本论将对圆偏振光的大气退偏效应进行研究。首先，基于描述光束偏振特性的Stokes参量设计出一种光束偏振态实时检测系统。在实验室条件下搭建光路，对系统的性能进行稳态测量和动态测量两部分实验验证。动态测量实验进行了每秒500次的测量，较好的实时反映了入射信号光的偏振态。其次，基于Mie散射理论设计了大气散射对圆偏振光偏振影响的Monte Carlo仿真方法。阐明在仿真中利用H-G函数近似Mie散射相位函数的合理性。该仿真同时考虑了水分子、大气气溶胶及灰尘三种散射元的尺寸分布及浓度，使模型更加完善。基于此仿真方法分析了当入射信号光分别为左旋圆偏振光和右旋圆偏振光时接收光斑不同区域处光子的偏振特性分布；讨论了不同通信距离及通信距离和接收孔径一定时接收平面偏离光斑中心位置远近对接收到的光子偏振的影响。再次，基于大气球泡模型设计了大气湍流对圆偏振光偏振影响的Monte Carlo仿真方法。并基于此方法讨论了不同通信距离及不同大气折射率结构参数C2n对圆偏振光偏振特性的影响。并对入射光分别为左旋圆偏振光和右旋圆偏振光两种情况进行了对比分析。最后，进行了地面点对点11.16km的长距离水平大气链路退偏实验。实验进行时大气能见度在5km-10km，大气折射率结构参数=C21.825×10132/3nm。测量分析了接收光斑中心处及边缘处偏振度及Stokes参量随时间的变化情况。