近些年,基于描述经典光学的麦克斯韦方程与量子系统的薛定谔方程的相似性,利用光波导可以实现诸多原子系统中的量子效应。这种相似性为量子系统的研究提供了便利性,主要体现在：利用空间域的可视性再现量子系统的时间域演变；或者利用经典光学的稳定相干性去探索在原子系统中还难以实现的量子效应；或者利用光波导介质的空间周期扰动去仿真原子与光子作用过程。本文主要研究了如何在光波导中实现暗态效应,以及这种暗态效应与非线性的关系。该研究对于揭示本质上的量子相干效应与非线性之间的影响,降低或增强系统的稳定性有一定意义。该研究也对开发新型的全光开关具有一定意义,探讨更复杂相位关系与非线性之间的作用,从而实现不同于目前光开关基本原理的新型光开关。论文结合国家自然科学基金资助项目“在光波导与量子器件中应用非线性与量子调控相互作用进行信息处理(11174074)”的实施,采用数值模拟和近似解析相结合的方法,在介绍光波导的模式理论以及模式耦合理论的基础上,重点对三芯耦合波导中的暗态进行了相关研究,也研究了变系数耦合光波导的一些特征,包括：负耦合系数光波导。论文具体工作由以下3部分组成：1.学习了光波导中的基本理论包括：光波导的模式理论和传输特性、耦合波导的耦合模理论和非线性开关特性。通过非线性色散光纤介质中的麦克斯韦方程组以及电磁场满足的边界条件,推导出光纤模式本征值方程以及光脉冲在光纤中的传输方程。通过耦合模理论推导出耦合模传输方程,并使用数值模拟的方法,分析了耦合波导在线性与非线性情况下,连续波和脉冲输入两种状态下的输出特性,主要是对非线性开关特性的分析。2.在耦合波导理论的基础上研究了周期性折射率调制耦合器,包括：建立周期性调制耦合器的研究模型,理论分析该波导的传输特征,并揭示了实现负耦合系数的可行性。数值研究了周期性调制耦合光波导中的负耦合性特征,对其光开关特性研究表明：变耦合系数耦合波导可以降低非线性开关功率,但需要增加耦合波导长度,而耦合波导中负耦合系数的出现将导致耦合波导之间能量交换的不彻底。3、研究了三芯耦合波导中的光波传输特征。采用数值模拟和近似解析相结合的方法研究了三芯耦合波导中的暗态效应,结果表明：相干布居囚禁与光波导的非线性自囚禁两种效应都可以导致波导中暗态的产生,当两种效应同时作用时,则导致暗态现象的破坏,此结果与解析方法结论相同。利用得到的关于三芯耦合波导中暗态的结论,对[Phys. Rev. Lett.,2008,101:193901(1-4)]文章中等利用三芯耦合光波导实验观察到的暗态现象给予解释,并对其给出的结论进行补充完善：仅从暗态的变化研究非线性对相干布居囚禁的影响是不完备的,同时,这里强调在相干布居囚禁的理想条件下,非线性影响暗态的阈值功率趋于无穷大,这意味着理想相干布居囚禁量子效应将不受限于系统的非线性效应。论文关于三芯耦合波导中的暗态的研究,对光波导与量子器件中应用非线性与量子调控相互作用进行信息处理具有理论指导意义,相关结果发表在《量子电子学报》,2014,31(2):202-207上。