四波混频(FWM)是光纤中最重要的非线性效应之一,利用它可以产生很多新的频率分量。因此,它在光通信系统中有着广泛的应用,比如光参量放大,透明的波长转换,光量子信息处理,光时分复用(OTDM),全光抽样器,全光限幅器等。我们针对高非线性光纤(HNLF)中的自相位调制(SPM)、交叉相位调制(XPM)以及FWM效应做了一系列的理论和实验研究,并将这些效应应用于新型滤波器设计、2R再生以及全光超宽带(UWB)产生和传输等。最重要的是,我们还发现了HNLF中的“相位钳位”效应,利用它实现了非相关光波的相位锁定。全文内容如下：(1)研究了基于多级四波混频(MFWM)耦合波方程的基本物理机制。从基本的简并和非简并FWM的耦合波方程出发,研究了耦合波方程的特点。在此基础上,进一步研究了MFWM耦合波方程的物理机制。其次,推导出了非等距、多抽运情形下的线性相位匹配因子的计算公式。(2)研究了MWFM的竞争机制。利用耦合波方程分析了MFWM的模式竞争机制,在实验上证明了模式数和输入光波功率的关系,并且总结了MFWM过程中各光波之间的能流规律。其次,讨论了当输入功率相等或者近似相等时,MFWM中模式C的空间稳定性。通过引入哈密顿量(Hamiltonian)和曼丽-罗(Manley-Rowe)关系,导出了描述光波之间能量流动大小的相平面。通过分析相平面的拓扑结构,奇点类型和奇点的存在条件,研究了输入光波和边带光波之间的能量流动大小。最后,通过研究哈密顿(Hamilton)系统中的势能和动能,进一步分析了Hamilton系统的稳定性。(3)研究了基于HNLF的2R再生效应。利用耦合波方程研究了卫星光的静态特性,导出了描述卫星光在光纤中演化的解析表达式。其次,模拟了描述卫星光和信号光功率关系的特征曲线,它符合2R再生器的传输函数曲线特点,通过优化输入光波长和功率以及光纤长度,得到了理想的2R再生传输函数曲线。最后,研究了2R再生器的动态特性,成功地实现了卫星光的再整形和再放大,不仅抑制了卫星光的基座和顶部的自发辐射(ASE)噪声,而且还提高了品质因子(Q值)和消光比(ER)。(4)研究了基于HNLF的新型陷波滤波器。通过耦合波方程,在设定不同的参数时,得到了不同性能的陷波滤波器光谱图。通过优化某些参数来提高陷波滤波器的滤波能力。在实际应用中,只需将泵浦光和信号光波长间隔调小,并调节泵浦光功率的大小,以实现最佳的相位匹配条件,从而达到滤除某个特定光波的目的。(5)研究了基于HNLF的相位锁定效应。本章首先引入了相位钳位效应概念,通过它实现了非相关光波之间的相位锁定。在理论上,从耦合波方程导出了输出光波相位的解析表达式,并且在忽略FWM项时,使得任意两个光波之间的相位差恒定。其次,拓展了拍频理论,导出了N束光波之间拍频时的自相关迹函数和功率谱密度(PSD)函数。在实验上,利用两个方案,分别验证了两个和三个非相关光波之间的相位锁定现象,并且从理论和实验上分析了拍频信号的稳定性与输入光功率和偏振态之间的关系。(6)研究了基于光纤光参量放大器(FOPA)结构的UWB信号的产生。利用基于HNLF的光参量衰减效应和增益过饱和效应,设计出三种实现UWB信号产生的方案。其中第个方案是利用单抽运FOPA模型,实现了单通道的UWB信号的产生。第二个方案是利用两段HNLF而组成的基于单抽运FOPA的并联结构,实现了六通道极性反转的UWB信号的产生。第三个方案是利用双抽运的FOPA结构实现了双通道的UWB信号产生。(7)研究了UWB-over-fiber技术。引入任意波形分解(AWD)的方法,通过该方法可以求得当边界条件为任意波形时非线性薛定谔方程的解析解。该方法不但省略了复杂的数值算法,而且还提高了求解速度和解的准确度,并且这个方法还可以用来优化UWB脉冲的波形。