近年来,由于光波在物理学和光路由领域的应用,例如在波导阵列、光诱导光子晶格和光子晶体的周期性光学系统中的光传播已经引起了许多关注。表面波是一种特殊类型的光波,它产生在两种不同介质的界面,并且已经被广泛地研究。表面孤子能为实现光控光、光操作提供可能,并且在光路由、光导航等方面具有潜在的应用价值。本论文主要研究了光子晶格中的表面扭结孤子,光子晶格中的表面矢量孤子以及光伏光折变晶体中的表面晶格孤子。对孤子的形成过程和稳定性进行了详细分析。首先,研究了在自散焦非线性介质中的光子晶格界面处的表面扭结孤子。研究表明,异相扭结孤子和同相扭结孤子存在的区域不同,而且孤子存在区域并不会占据整个带隙。通过数值计算可以发现,调制深度会影响孤子的产生,并且存在相应的阈值。异相扭结孤子在它的大部分存在区域中是完全稳定的,除了在靠近第一能带下边界附近有一个比较窄的不稳定区域由于发生振荡导致不稳定。同相扭结孤子总是不稳定的,孤子的弱振荡不稳定性主要发生在晶格内的尾部,使得孤子可以在几百个衍射长度上没有任何明显失真的情况下传播。其次,研究了具有线性折射率的谐波横向调制的非线性介质中的表面矢量晶格孤子。研究表明,在自聚焦介质和自散焦介质中,奇矢量孤子在大部分存在的区域内是稳定的,偶矢量孤子在小部分存在的区域内是稳定的。在自聚焦介质中,通过交叉相位调制的稳定扭曲分量产生的相邻晶格位置中的折射率的局部增加可以使孤子稳定化。在自散焦介质中,可以通过交叉相位调制使扭曲的第一分量与稳定的第二分量的相互作用来达到稳定。在均匀介质中,当不稳定的多峰矢量孤子其交叉相位调制的作用大于自相位调制的作用时,也可以通过晶格使其稳定。最后,研究了在光子晶格和均匀光伏光折变晶体界面处的表面晶格孤子。研究表明,表面晶格孤子只存在于半无限带隙中,在大部分的中功率区域是稳定的,在高功率和低功率以及小部分的中功率区域是不稳定的。在高功率和低功率以及大部分的中功率区域,孤子的功率随着传播常数的增加而减小,在小部分的中功率区域,孤子的功率随着传播常数的增加而增大。