调制格式可以改善高速光传输系统的传输性能和频谱效率,特别是在抗非线性效应、信道串扰、抗色散等方面表现出来的优异性使其必将成为提升未来光传输系统性能的关键因素。光传输系统中,色散和损耗严重制约了通信容量和中继距离,光放大技术是实现高速低噪声光传输的必要条件,而基于光纤参量放大(FOPA)的光传输系统具备高增益、大带宽、高平坦度和低噪声等优势,FOPA基于三阶非线性效应的四波混频原理,在未来光传送网中的技术发展潜力很大。本文基于OptiSystem仿真软件仿真分析了四种不同调制格式对基于FOPA的光传输系统性能的影响,主要内容有：论文首先讨论了光纤通信发展史和光放大技术,分析了调制格式的重要性和国内外现状,讨论了FOPA的发展和优势,分析了引入FOPA后的光传输系统的性能变化研究。接着,文章对调制格式和FOPA进行了较为系统的研究,讨论了40Gb/s单信道光传输系统中非归零码(NRZ)、归零码(RZ)、载波抑制归零码(CSRZ)以及双二进制调制格式(ODB)这四种OOK振幅键控,从理论和仿真的角度分析了这四种调制格式的特点,理论上研究了不同调制格式对基于FOPA的光传输系统性能的影响,并仿真分析了光纤和泵浦等参数对相位敏感光纤参量放大(PS-FOPA)和相位不敏感光纤参量放大(PI-FOPA)光传输系统性能的影响。最后,深入研究了NRZ、RZ、CSRZ和ODB这四种调制格式对基于单泵浦和双泵浦条件下的PS-FOPA光传输系统性能的影响,对眼图和最大Q因子进行对比,得出RZ码型最适合于在PS-FOPA光传输系统中传输的结论。对单泵浦结构而言,当RZ的占空比为80%时得到最大的Q因子；对双泵浦结构而言,当RZ的占空比为100%时得到最大的Q因子。