回旋行波管是一种重要的高功率毫米波源,在雷达、通信系统和工农业生产等各领域中应用前景广阔。在传统微波和毫米波低端频段,TE01模回旋行波管的研究和应用较为普遍。但随着工作频率的不断提高,传统的TE01模回旋行波管难以满足高功率输出的需求。在这一背景下,以高阶模式作为工作模式的回旋行波管设计方案被相继提出,例如,以圆波导TE02模为工作模式的二次谐波回旋行波管放大器方案。与圆波导TE01模的回旋行波管相比,高阶TE02模回旋行波管的高频互作用波导半径足够大,能够处理更高的平均功率,并为大电流电子束提供了相当大的通道。因此,在实现毫米波回旋行波管的高功率（特别是高平均功率）方面具有更大的潜力。输入系统是回旋行波管的重要组成部分,输入系统的性能好坏对回旋行波管的带宽、增益和高频结构中注-波互作用的效率等有直接的影响。随着回旋行波管逐步向高功率、高阶模、高频率发展,对回旋行波管输入系统的设计也提出了严峻的挑战。为了解决高阶模带来的回旋行波管输入系统的模式纯度下降和工作带宽受限等问题,本论文对回旋行波管输入系统中的微波信号输入窗和输入耦合器展开了研究。同时,为了研究圆波导TE02模二阶谐波回旋行波管放大器的性能和输入系统中相关微波元器件的特性,有必要设计一个性能优良的TE02模模式变换器。本论文的主要内容包括:1、开展了回旋行波管输入窗的研究与设计工作。首先利用模式匹配和广义散射矩阵理论推导了单级圆-矩交错型突变结两侧模式的耦合矩阵及其广义散射矩阵。进一步,结合矩阵级联理论和传输线理论求解出级联矩-圆-矩交错型突变结的广义散射矩阵。基于理论推导结果编写MATLAB程序包用于计算模型的理论值,并与三维高频仿真软件的仿真结果进行比较。最终,设计了介质半加载和介质全加载两种矩-圆-矩交错型回旋行波管输入窗结构。结果表明,圆-矩交错型突变结和矩-圆-矩交错型的理论推导结果具有高度的可靠性,由理论推导编写的MATLAB程序能够准确的计算出模型的电压驻波比且与仿真软件模拟结果一致。所设计的输入窗在低频段具有小尺寸和带宽优势,具有较高的实用价值。2、开展了回旋行波管输入耦合器的研究与设计工作。所设计的W波段TE02模输入耦合器采用了一种斜入式多路合成的结构,能有效改善阻抗匹配,提高转换效率,增加带宽。利用高频仿真软件优化斜入式多路合成输入耦合器的参数。最终,加工了所设计的斜入式多路合成输入耦合器,通过冷测实验对该输入耦合器的性能进行验证。实验表明,所设计的斜入式多路合成TE02模输入耦合器具有良好的方向性,在主圆波导输出端口得到了具有宽带、高模式纯度的高阶TE02模。3、开展了W波段矩形波导TE10-圆波导TE02模模式变换器的研究与设计工作。设计中采用了一种新型十字扇形的过渡结构。一方面,该模式变换器存在两个完美对称电壁,使得圆波导TE1n,TE2n,TE3n,TE5n等非期望的模式可以被控制住。另一方面,由于十字扇形结构中的四个翼片从窄到宽逐渐变化且垂直于圆波导TE02模的电场,可以有效地破坏圆波导TE41,TE42等非期望模的场分布。最后,加工了一对完全相同的TE02模模式变换器,进行背靠背冷测实验和角向对称性验证。实验结果表明,设计的模式变换器具有良好的宽带特性,能够满足工程应用的需求。