随着近些年来奇点光学研究的快速发展,研究者们广泛展开了对于这一类光波场相位奇点附近出现的波前位错及拓扑结构的研究。其中涡旋光束便是奇点光学一种,也因其独特的相位分布被广泛应用于光信息编码、光空间传输、量子信息转换、微观粒子捕获及操控等领域。因此,本论文基于涡旋光束的特点,选取涡旋光束中特殊的异常涡旋空心光束、异常贝塞尔光束及部分相干径向偏振涡旋光束作为研究对象进行深入研究。主要包括异常涡旋空心光束和异常贝塞尔光束的产生及传输特性,部分相干径相偏振涡旋光束在单模光纤中的耦合效率研究。首先,利用瑞丽索末菲积分衍射公式,得到异常涡旋空心光束在自由空间中非傍轴情况的传输公式。通过数值模拟研究该光束在非傍轴情况F的传输特性,包括其光强和相位演化规律。研究结果表明,其光强和相位传输特性与拓扑荷数密切相关。并将该研究结果与该光束在傍轴情况下的传输特性进行比较。其次,通过设计螺旋狭缝,在理论和实验上产生了异常涡旋贝塞尔光束,并研究了其传输特性。该光束在传输方向上的轴心局部区域内的拓扑荷数随传输距离的增大而减小。该研究结果在量子信息光学领域具有重要意义。最后,从部分相干径相偏振涡旋光束的交叉谱密度矩阵出发,计算得到该光束耦合进入单模光纤的耦合效率解析表达式。详细研究不同拓扑荷数、相干长度、波长和数值孔径对于光束耦合效率的影响,并且给出了最优解。