行波管总的发展趋势是向更宽的频带，更高的输出功率，更高的效率，更高的可靠性和更长的使用寿命方向发展。行波管中的慢波结构作为行波管的一个核心部件，它的性能的优劣直接决定着行波管的整体性能。开放式矩形梳波导慢波结构具有易于微加工，横向尺寸大，散热性好等优点，是一种有潜力工作于毫米波段或亚毫米波段甚至THz波段的高频系统。本论文从理论上对开放式矩形梳波导慢波结构进行了深入的研究的基础上对慢波结构在加载介质和梳为任意形状的两种情况进行了研究，推导了这些慢波结构的色散方程和耦合阻抗表达式。通过数值计算，获得了这类慢波结构的色散特性和耦合阻抗随参数的变化规律。在此基础上，建立了慢波结构中电子注与波的注波互作用小信号线性理论，获得了慢波结构的“热”色散方程，通过数值计算的方法，分析了电子注注参数对小信号增益的影响，并由此获得了增加带宽和增益的途径。本论文的主要工作成果和创新之处在于：1．对开放式矩形梳波导慢波结构采用严格的场匹配的方法，同时考虑快波和慢波，推导出了色散方程和耦合阻抗表达式，并通过数值计算的方法比较了慢波结构的结构参数对色散特性和耦合阻抗的影响。分析表明只要减小慢波结构的周期和梳高，可以使慢波结构结构工作到更高的频段。2．对开放式矩形梳波导慢波结构的注波互作用线性理论进行了研究。采用自洽场理论，推导出了“热”色散方程，并通过数值计算的方法考察了慢波结构参数以及电子注参数对小信号增益的影响。3．对介质加载开放式矩形梳波导慢波结构采用场匹配的方法，同时考虑快波和慢波，推导出了介质加载开放式矩形梳波导慢波结构的色散方程和耦合阻抗表达式，通过数值计算的方法计算分析了介质的介电常数和介质厚度对色散特性和耦合阻抗的影响。分析表明，介质层的加入虽然使慢波结构的耦合阻抗有所降低，但其在降低了电磁波的相速的同时展宽了慢波结构的频带。4．获得了介质加载开放式矩形梳波导慢波结构的注波互作用进行了线性理论，并采用自洽场理论，推导出了介质加载开放式矩形梳波导慢波结构“热”色散方程，通过数值计算的方法计算分析了介质的介电常数和介质厚度以及电子注参数对小信号增益的影响。分析表明介质层的加入虽然使慢波结构的增益有所降低，但其展宽了慢波结构的频带。5．在梳区采用矩形阶梯近似方法，利用场匹配的方法，推导出了任意梳形开放式矩形波导慢波结构的普遍色散方程和耦合阻抗，通过数值计算，详细的对五种不同梳结构的色散特性和耦合阻抗进行了研究并比较了它们之间的差异。研究表明在相同梳口和梳宽情况下，三角形梳结构的带宽最宽，但耦合阻抗最低；倒梯形梳结构“冷”带宽最窄，但耦合阻抗最大；6．对任意梳形开放式矩形波导慢波结构进行了小信号分析，获得了慢波结构的注波互作用的线性理论，并在此基础上用数值计算的方法对五种不同梳结构的小信号增益进行了比较。研究表明在相同梳口和梳宽情况下，三角形梳结构的小信号增益最低，但带宽最宽，热相速最大；倒梯形梳结构的小信号增益最大，但带宽最窄，热相速最小。