在过去的十几年里,人们发现原子介质的光学特性能够因为光波场作用使原子处于相干叠加态而发生显著的改变,这种原子相干的产生可以使介质对共振探测场的吸收和色散特性发生变化,同时相干介质具有很大的非线性极化率。本文主要从理论和实验两方面系统地研究了铷原子蒸气中的相关非线性光学效应,同时实现了基于相位控制相干粒子数捕获的全光开关。第一部分：倒Y模型原子系统中的双暗共振和增强的交叉Kerr非线性效应自从电磁感应透明现象在各种三能级原子系统中被实验证明以来,引起了人们广泛的兴趣和重视。其特性被应用到许多领域的研究中,例如使光脉冲传播的群速度减慢,进而实现光信息的存储与释放；还可以用于实现高效率的非线性光学过程,如增强的四波混频效应,提高光信号间的交叉相位调制系数,多光子干涉等。对这些相干效应的研究大都集中在原子的V型、A型和三型三能级系统中。随着实验和理论研究的深入,许多更新和更复杂的量子干涉效应是与多光场、多能级系统的相互作用联系在一起的。其中,具有两个透明点和三个吸收峰的双暗态共振和双窗口电磁感应透明因其在双极量子阱激光和量子计算机方面的潜在应用而得到了人们的重视。我们选择倒Y型原子系统作为研究对象。首先在理论上分析了在两个耦合场作用下,原子系统中的吸收和色散特性。然后从实验上观测了在倒Y模型原子系统中双窗口电磁感应透明现象,搭建了一套马赫-曾德（Mach-Zehnder）干涉仪,用来测量原子介质对探测场体现出的色散特性。结果表明,可以通过调节两个耦合场的频率来分别独立地控制两个透明窗口的位置,每一个透明窗口处的色散曲线都有着陡峭的变化,这一特性使在临近的不同频率处分别调控光信号的群速度成为可能,可用于双通道的光信息和光量子位的存储与释放。双窗口电磁感应透明现象的物理本质是由于两个耦合场同时作用于原子系统中,从而在其内部形成了可调控的双暗共振。当双暗共振简并时,两者之间的相互作用达到最大,量子干涉增大了EIT系统的交叉Kerr非线性系数。因此,我们进一步研究在倒Y模型原子系统中基于EIT增强的交叉相位调制现象。在目前的实验条件下,系统的交叉相位调制相移达到12°。我们的实验结果对理解双暗共振相互作用的物理机制有所帮助,同时也为多能级原子系统中非线性效应的相关研究提供了实验参考。第二部分：利用四波混频技术测量原子相干的动态变化由于原子不同能态之间相干性的建立在量子光学的基础研究和实际应用中有着重要意义,人们已经提出了多种实现原子相干的方法,如强磁场感应原子相干、微波场感应原子相干、自发辐射相干等。近些年来,在绝热过程中利用激光场驱动,建立两个能级之间的相干效应备受关注,提出了多种解决问题的方案和技术,例如受激拉曼绝热过程、斯塔克啁啾快绝热过程和分段绝热过程等。同时原子的相干控制与绝热过程的结合,也开创了一个新的研究领域。在这样的背景下,人们开始关注绝热过程中原子相干建立和衰退的演化规律。我们提出采用四波混频（FWM）技术探测随时间变化的原子相干性。在实验方面,分别利用受激拉曼绝热（STIRAP）和部分受激拉曼绝热（fractional STIRAP）技术在铷原子的两个非简并基态能级之间建立原子相干,相干性的大小会受到斯托克斯场、泵浦场拉比频率等参数的控制,而随时间变化。同时一个弱连续场作为探测场激发产生四波混频（也可称之为相干反斯托克斯拉曼散射）信号,理论分析表明四波混频信号的强度与原子基态相干性成正比。因此对实验中得到的四波混频信号进行探测,就可以获得原子相干性随时间的演化过程,实验结果与数值模拟对比,两者相一致。此技术可以用于探索相干控制绝热过程的物理本质,同时在基于原子相干的非线性过程等研究课题中有潜在应用。第三部分相位控制相干粒子数捕获及全光开关的实现在本部分,我们提出一种相位控制的相干粒子数捕获（CPT）效应,以及建立在这种多光子干涉效应基础上的快速响应全光开关。实验结果表明,利用两个耦合场可以将原子制备在含有耦合场振幅和相位信息的叠加态（暗态）上,再通过绝热过程将这一叠加态以原子自旋波的形式存储在原子介质中,这种原子自旋波将参与控制场和探测场之间的量子干涉,与控制场和探测场构成了一套准闭合环系统,三者之间的相对相位差将决定探测场的透过或吸收。由于改变任意一个光波场的相位,同时保持其他三个光波场的相位不变,就可以调节整个系统的相对相位差。我们选择一个弱场作为开关场,可以通过控制探测场的透过或吸收来实现光开关的“开”和“关”状态。我们在实验上演示了这种全光开关,并且进一步考察了原子基态退相干和四波混频效应对全关开关的影响。基于此种机制的全光开光具备弱光水平和高速响应的优点,控制脉冲的能量密度为每原子散射截面（λ~2/2π）10~2个光子,光开关的响应时间在ns量级,可用于高速光通信和量子信息网络等研究领域。同时探测场没有光速减慢效应,这也是与以往基于量子干涉的光开关的不同之处。与现存的光开关技术相比,这种快速响应的光开关在未来的应用中更具备吸引力。