近年来,现代信息通信技术已经得到了日新月异的发展。无线通信技术由于其便携性与实时性的特点也越来越受到人们的关注。但是,通过在时域、码域和空域等领域的研究,对应的资源利用效率已然不断接近理论的天花板,较难满足无线通信系统更进一步的爆炸式数据容量增长的需求。因此为了突破现有资源容量的限制,携带有轨道角动量的涡旋电磁波作为一种新的电磁波传播方式,也就应运而生。由于涡旋电磁波独特的相位涡旋分布特性,其完全具备进一步提高通信容量的能力,有望使如今的通信技术得到突破性发展。同时,由于引入的涡旋相位特性,涡旋电磁波在探测领域也具有巨大的潜力。然而,目前关于涡旋电磁波的研究尚不成熟,主要集中于简单的通讯系统搭建和涡旋电磁波天线设计,但是对于涡旋电磁波传播的更深层次的原理性研究和涡旋波源的系统性分析仍然有所匮乏。本文围绕以上问题开展了多模态涡旋电磁波传播特性的分析以及相应的天线设计的研究工作,为涡旋电磁波的后续研究和应用提供理论和实物支撑。本文的研究内容主要包含以下四个方面:涡旋电磁波源分析及多模态涡旋电磁波天线设计:以Maxwell方程为基础,分别从连续源与离散源两种不同分布形式出发,给出了源分布与产生的涡旋电磁波特性之间的数学模型。运用涡旋相位分布的源可以激励涡旋电磁波。其中,使用相模理论将离散源的辐射特性分解,明确了主要涡旋模态阶数与其它杂散涡旋模态阶数之间的关系,利用涡旋模态阶数之间的补偿效应提高涡旋模态纯度。进一步的,以连续源分布为基础,通过微带的高阶谐振模式辐射涡旋电磁波,并且通过多环嵌套与多层馈电网络结合的方式设计了多模态涡旋电磁波天线(涡旋模态阶数l=±1,±2,±3,±4),从仿真和实验两个角度对于多模态天线的涡旋波辐射能力进行了验证,为涡旋电磁波的应用构建辐射源基础。涡旋电磁波反射和折射特性分析:从Maxwell方程和Helmholtz方程出发构建涡旋电磁波在自由空间中传播的数学模型,并给出了涡旋电磁波的平面波分解形式以及平面波结构与涡旋波之间的关系。结合Snell-Fresnel定理与涡旋电磁波分解的平面波,将涡旋电磁波在介质分界面的反射和折射问题转化为分解的平面波的反射和折射问题,给出了涡旋电磁波在介质分界面反射和折射的幅相变化特性,并完善了分解分析的限制条件。相比于入射涡旋电磁波的模态阶数,反射涡旋电磁波的模态阶数相反而在折射时模态阶数保持不变。将该分析推广至多层分界面的传播问题,并以单层介质板为例进行分析和仿真验证。最后结合微波暗室近场测量系统设计实验方案在近距离下验证涡旋电磁波照射在介质板上的反射和折射特性,为涡旋电磁波的通信和探测应用提供传播的理论基础。涡旋电磁波的聚焦分析及天线设计:从涡旋电磁波源辐射的数学模型和分解平面波两个方面出发,给出了涡旋电磁波本身扩散特性的分析,并且从这两方面讨论了聚焦涡旋电磁波的理论可能性。借助龙伯透镜与麦克斯韦鱼眼透镜的聚焦特性,以构建低俯仰传播角度的平面波为核心验证了聚焦涡旋电磁波的可能性,并且给出了聚焦极限与透镜口径的关系。另外运用金属反射面横向偏焦的特性设计反射面天线对多模态涡旋电磁波波束进行了聚焦,通过仿真和实验进行了验证。进一步的,结合Fabry-Perot谐振腔天线的高增益特点与涡旋电磁波反射折射特性,提出了封闭的Fabry-Perot谐振腔天线聚焦涡旋电磁波束,并完善了对应的理论分析和设计条件,最后进行了仿真验证,为涡旋电磁波的远距离应用提供高增益低扩散角涡旋辐射源。远距离涡旋电磁波传播实验:针对涡旋电磁波的远距离扩散特性与涡旋相位平面增大的特性,设计了远距离情况下测量涡旋电磁波辐射特性的方法,同时测试其涡旋相位的保持特性。运用反射面聚焦的多模态涡旋电磁波,首先在近距离情况下进行了实验方案的验证,然后分别在3.7km与7.0km不同远距离的情况下对涡旋电磁波远距离传播特性进行了测试,并且验证了远距离条件下的涡旋模态阶数保持不变的特性,为涡旋电磁波涡旋相位的远距离应用提供了可能性。