本文主要讨论了无界的、横向折射率分布为渐变的连续函数的一类非均匀波导结构的模式分析，得到了此类波导中的传播模和泄漏模满足的色散关系。同时也就完美匹配层(PML)在无界光波导中的应用做了一定的研究，包括PML对非均匀波导的模式分析的影响，以及PML在非线性薛定谔方程的求解中的应用等。　　 光波导结构是由光透明介质(如石英玻璃)构成的传输光频电磁波的导行结构，在数学上可以用麦克斯韦方程刻画。模式匹配方法是一种求解此类方程的常用方法。这里所谓的“模式”，就是指无源麦克斯韦方程的解。波导场可以表示为对模式的展开式，每一个模式对应一个唯一的传播常数，为求得此传播常数，需要求解一个Sturm-Liouville算子的特征值问题。无界Sturm-Liouville算子的特征值在模式的含义下可以分为两类：一类是刻画沿波导方向传播的这一部分能量的有限个传播模，另一类是刻画被辐射掉那部分能量的辐射模。辐射模的数量是不可数的，因而在数值上，我们往往用可数个泄漏模的和来近似地表示辐射模的连续统。　　 当波导的折射率分布为分段常数时，传播模和泄漏模的传播常数可以通过解一个非线性方程得到，此方程也称为该波导的色散关系。本文讨论了更一般的情况，即当波导的折射率分布为变化的连续函数时，利用传递矩阵和微分传递矩阵技术，也可以得到关于传播模和泄漏模的传播常数的色散关系。虽然所得方程的求解比较困难，但是针对现实中非均匀波导的缓变特性，这里推导出了渐近解公式，可以作为牛顿迭代的初值。通过迭代方法，本文也得到了较高精度的解。　　 此外由于所讨论波导结构的无界特性，在数值上需要通过使用完美匹配层技术来截断无穷区间。PML在无界的亥姆霍兹方程和薛定谔方程的求解中都有广泛的应用，可以使用有限的区间来模拟开波导中的无穷区间。PML技术在数学上等价于原方程在复平面上的延拓和截断。可以发现，开波导经PML截断为有界波导后，其模式分解中除了传播模和泄漏模外，还有一系列随PML参数变化的模式，一般称作Berenger模或者PML模。在有PML的情况下，也可以利用微分传递矩阵方法，得到关于传播模、泄漏模和Berenger模的传播常数的色散关系。同样的，虽然这个色散关系本身难以求解，但在波导缓变的假设下，所得到的近似色散关系可以利用牛顿迭代求解，其中的初值可以使用渐近公式给出。特别地，根据泄漏模和Berenger模本身不同的特性，我们推导出了各自的渐近公式来作为迭代初值。　　 在无界的非线性薛定谔方程的求解中，PML也非常有用。在实际计算中，需要将PML内部的区域进行数值离散，随之会产生一定的数值反射。本文针对薛定谔方程求解中用到的PML，探讨了含PML的计算区域的离散方法。首先证明了单纯地使用等步长的有限差分格式在PML内部进行加密是不可行的，因为这样会引起虚假的数值反射。我们推导出了虚假反射和PML内外的离散步长差之间的关系，并且根据这个关系提出了离散的改进技术。这种改进技术基于利用坐标变换逐渐地向PML内转移差分离散点，可以有效地减小因PML的离散而产生的误差，并且不产生明显的虚假反射。这种离散改进技术可以很容易地推广到其他含PML的波方程的计算中去。　　 本文最重要的一点是推导出了无界波导的精确色散关系，可以利用非线性方程的求根方法解出传播模、泄漏模和Berenger模的传播常数。当然在波导折射率缓变的假设下，求解的方法更加简单直接。此外对于PML的数值离散的研究，以及提出的离散改进方法也具有一定的应用前景。