任何具有螺旋相位分布的光束都拥有轨道角动量,轨道角动量理论上具有无限多的正交基,充分利用其正交性进行调制或复用,可以大幅度地提升光通信容量。因此,可将轨道角动量视为除幅度、相位、波长和偏振外的一种可载荷信息的新型自由度。目前轨道角动量复用通信技术的研究主要在自由空间光通信、无线射频通信和光纤通信领域展开。在光纤通信领域,由于轨道角动量的模式简并,使得其在传统光纤中不能稳定传输,因此研究能够支持尽可能多轨道角动量模式并稳定传输的光纤是目前研究的重点。本文以提高光纤传输容量为目标,在以往相关研究基础上,利用有限元仿真软件COMOSL,提出了一种基于环形光子晶体光纤结构的新型轨道角动量模式光纤。该光纤通过在光纤中内嵌一种环状介质材料和增加空气孔包层数量,提高了模式间的有效折射率差,增加了稳定传输轨道角动量模式的数量。主要取得以下工作成果:首先,对轨道角动量模式在光纤中传输的稳定性进行了理论分析,结果表明:轨道角动量模式必须要满足相邻矢量模式之间的有效折射率之差大于10^-4的条件,才能在光纤中稳定传输。然后,利用有限元法对轨道角动量模式在该光纤中的传输特性进行了研究,结果表明:该光纤在C和L波段内可稳定传输110个轨道角动量模式,其拓扑荷数从1到28。此外,本文提出的光纤具有波导色散变化值为32/（9）8)?6)8)),非线性系数小于2.80 W^-1/km,限制损耗大小在10^-10 dB/m¹0^-8 dB/m之间,部分模式的走离长度达到10³m的传输特性。最后,将本文设计的光纤性能与相关文献进行了对比,发现本文设计的光纤不仅支持高达110个轨道角动量模式,而且相邻模式间的有效折射率之差大,即模式的稳定性好。将本文设计的光纤应用于前向泵浦掺铒光纤放大器,并研究了其对光信号的放大特性。采用光纤放大器理论计算的Giles模型,通过Matlab编程进行数值分析发现:该掺铒光纤放大器在1.528)¹.628)波长范围内,可以实现110个OAM模式的增益均高于19.5dB,噪声系数低于6.5dB的工作特性。本文提出的轨道角动量模式光纤能够支持110个轨道角动量模式的稳定传输,该光纤能在一定程度上提高轨道角动量模分复用光纤通信系统的传输容量,可为今后OAM模式光纤结构设计和OAM模式在光纤中的复用提供一种新的思路。