先进的介质材料对于半导体集成电路的进一步发展起到至关重要的作用。作为GaN基HEMTs器件的重要组成部分,栅介质及钝化介质材料质量的好坏将直接影响到器件的整体性能。由于适用于GaN基器件的“理想介质材料”需具备高介电常数、宽带隙、高势垒高度、高温稳定性和低界面态密度等,而目前常见的介质材料基本无法同时兼顾。本论文主要开展了新型三元氮化物AlBN介质薄膜的脉冲激光沉积制备,高温稳定特性,以及表面势对HEMTs器件电学特性影响的研究。论文的主要研究内容及成果如下:1.采用脉冲激光沉积（PLD）技术在室温下成功制备了高质量的AlBN非晶介质薄膜。研究了生长气压、衬底温度、激光能量等对三元氮化物AlBN介质薄膜成膜质量的影响,并通过一系列测试技术对所生长的AlBN薄膜的表面形貌、物相结构和化学组成等特性进行测试表征,结果表明所生长的AlBN介质为表面平整、元素分布均匀的非晶薄膜。此外,利用XPS、CAFM和Ⅰ-Ⅴ等测试手段对AlBN薄膜的相关光学性能和电学性能进行测试分析,发现非晶AlBN介质薄膜的禁带宽为5.73 eV,非晶AlBN/GaN的导带带阶为2.67 eV,能够提供很好的电子限制和阻挡效果。2.研究了非晶AlBN介质薄膜在高温下的稳定性和可靠性。由于在器件制备工艺中往往需要经历许多高温环境,这就对介质材料的稳定性和可靠性提出了相应的要求。对室温沉积的AlBN非晶介质薄膜进行了 800℃高温退火处理,同时对退火后薄膜的表面形貌、晶体结构、化学成分和能带带阶等进行了研究。结果表明,经过800℃高温退火处理后,AlBN介质薄膜仍具有稳定的非晶结构。另外,退火前后AlBN介质薄膜的禁带宽度分别为5.73 eV和5.78 eV,其相应的AlBN/GaN界面均能保持大于2.0 eV的导带带阶。此外,室温沉积和退火后的AlBN薄膜介电常数值均高于10（1 MHz）。退火后AlBN薄膜的漏电流密度比未经退火的低一个数量级以上。这种高温稳定、大导带带阶（＞2.0eV）、高介电常数（＞10）和低漏电流的特性使得三元非晶AlBN介质材料适用于工作在高温环境下的大功率和射频等器件。3.研究并比较了 AlBN、AlN和AlSiN三种不同介质材料对AlGaN/GaN异质结沟道2DEG特性的影响。霍尔测试结果表明,厚度为13nm的AlBN介质薄膜可以使得异质结方块电阻降低25%以上,沟道中2DEG浓度提高近40%,但迁移率略有降低;然而相同厚度的AlN介质层可以使沟道中2DEG浓度提高约26%,而迁移率基本保持不变;但厚度为13 nm的AlSiN层则使沟道中2DEG浓度提高了 27%的同时迁移率也有小幅提高。采用SKPM测试了三种介质材料与GaN之间的接触电势差,分别获得AlBN/GaN、AlN/GaN和AlSiN/GaN的相对表面电势为0.90 V、0.35 V和1.10 V。因不同钝化层的表面电势对AlGaN/GaN异质结的影响情况有所不同,从而使得异质结处三角势垒（阱）发生的变化也不同,最终导致沟道中2DEG浓度和迁移率变化也不一样。4.制备了非晶AlBN作为栅介质的GaN基MIS-HEMT器件。与肖特基栅HEMT（S-HEMT）器件对比测试发现,S-HEMT的阈值电压为-1.6V,开关电流比约为103,跨导峰值为5×10-5 S;而相同器件尺寸的MIS-HEMT阈值电压为-6.0 V,开关电流比高于105,跨导峰值仍约为5×10-5 S。此外采用PLD技术在室温下沉积的厚度为32 nm AlBN栅绝缘层能够使器件正、反向栅漏电流都显著降低2个数量级以上。另外,C-V测试结果也表明了 AlBN介质层会引起2DEG浓度的提高,这与霍尔测试结果一致。而且由C-V回滞曲线提取的AlBN层与GaN界面态密度在1011 cm-2量级。5.制备了非晶AlBN作为钝化层的GaN基S-HEMT器件。结果发现厚度为74 nm的AlBN介质钝化前和钝化后S-HEMT器件的开关电流比分别约为103和104,跨导峰值分别为51 mS/mm和109mS/mm。与钝化前相比,钝化后S-HEMT器件的饱和输出电流提高了 86%,而且栅极漏电流降低了近一个数量级。