自从光通信技术中的烽火传信诞生以来,空间光通信便推动着全体人类将所在的社会由之前的工业化社会转向现在的高速信息化社会发展。自由空间光通讯的诞生,带来了具有更安全私密,功耗更低,抗电磁干扰能力更强,传输容量更大,设备体积更小,架设更方便的技术。用于发射和接收载有信息光束的光学天线和用于光束传输的光纤是光学传输系统中十分重要的器件。为了提高传输效率,光学天线的中心遮挡是研究人员一直在不断探索的问题,本论文利用贝塞尔高斯光束的暗中空特性对这一问题进行了分析研究。同时本论文也研究了贝塞尔高斯光与光纤的耦合效率。论文主要研究内容如下:（1）提出了运用贝塞尔高斯光束的中空特性来尝试解决天线次镜的遮挡问题,同时分析计算出了此时的传输效率。研究表明,贝塞尔高斯光束可以显著提高在卡塞格伦天线中的传输效率。（2）对贝塞尔高斯光束由卡塞格伦光学天发射之后的光场分布、相位分布和远场,以及波长变化、因各种因素导致的天线主镜偏焦对光场分布、相位分布、传输效率的影响进行了研究和分析。天线主镜偏焦量为正时传输效率将增加,但存在偏焦时由双抛卡塞格伦光学天线传输的贝塞尔高斯在观察平面中的强度分布和相位分布都将会发生变化,发射光束的质量大大下降,所以通过使卡塞格林天线系统偏焦来提高传输效率是不可行的。（3）对贝塞尔高斯光与光场同样具有中空特性的其他涡旋光在天线中传输时的效率以及远场的分布进行了对比分析,总体来说,贝塞尔高斯光束在卡塞格伦光学天线中的传输性能优于拉盖尔高斯光束。（4）分析了贝塞尔高斯光束与单模光纤的耦合效率,包括单模光纤出现横纵向偏移以及随机抖动的情况下贝塞尔高斯光束与它的耦合的传输效率。（5）设计了一种组合透镜来提高贝塞尔高斯光束与它耦合时的传输效率,耦合效率在耦合透镜的数值孔径的倒数取不同值均有较大提升。