小型集成化、高速化、低功耗的集成电路是当前信息产业的发展要求，而传统的电子技术由于受其物理极限已经受到严峻的挑战。光子作为信号的载体，比电子具有高速、高带宽和携带信息量大的独特优势。基于这些特点，发展光子集成技术具有重要意义。光波导作为基本的光传输器件，在集成电路中有着重要的连接作用，以光波导为基础的光学微腔，具有品质因子Q值高和模式体积V小的优势，Q/V远大于普通光学微腔，以其为基础的微腔激光器尺寸小、功耗低，作为一种微型激光源非常适于大规模光电器件的集成。金属包裹的微腔可以利用表面等离子体模式突破光的衍射极限，实现亚波长模式体积，获得超高Q/V谐振腔。　　本文以多层平板波导原理为基础，使用传输矩阵方法、时域有限差分方法和有限元方法，对三维金属限制激光器的谐振腔进行了模式分析，并将二维圆形微腔和二维正方形微腔进行了优越性对比，考察了它们的模式特性，获得了如下研究成果。　　使用平板波导理论研究了一种三维金属限制激光器谐振腔的模式特性，这种谐振腔有源层侧面被介质绝缘层和金属层限制，上下由低折射率波导限制，顶层覆盖一层金属。研究结果表明:通过调节介质绝缘层厚度可以将TE模和TM模的电场压缩到半导体增益层或从增益层释放出，有效地增强或削弱增益介质与谐振模式电场之间的耦合。通过波导功率集成理论计算了谐振腔的模式Q值和增益阈值，结果表明谐振腔的TE模比TM模的Q值更高、增益阈值更低，说明在这种谐振腔中TE模比TM模更具优势。另外，基底光辐射对Q值存在影响，制作激光器时需要考虑刻蚀深度。　　使用传输矩阵方法和二维时域有限差分方法将二维下的圆形腔和正方形腔进行光学对比，结果表明当空气限制腔和金属限制腔半导体增益层尺寸分别约大于1.5μm，1.2μm，圆形腔的WG模比正方形腔的类WG模具有更高的模式Q值。另外，通过将正方形腔直角边进行圆角变形，研究了类WG模变化到WG模的模式变化特性。结果反映了圆角变形对空气限制的谐振腔Q值影响更大，在特定的变形圆角半径下，变形正方形腔会存在最大Q值和最小Q值。两种腔简化的Purcell因子的对比结果与Q值变化类似，这个结果对激光器的优化有着重要意义。