随着人们对网络传输带宽需求不断的提高，光纤通信系统正朝着超高速，大容量和动态可重构方向发展。虽然传统的掺铒光纤放大器（EDFA)和波分复用系统（WDM)技术极大地延长了传输距离和容量，但同时也带来了新的问题，色散和非线性损伤的累积已经成为限制光纤传输系统性能的主要因素。相干光通信技术适用各种调制格式、光谱效率高，并且具有接收机灵敏度高、波长选择性好等优点。相干光通信技术结合数字信号处理（DSP)技术还可以对上述各种信号损伤进行补偿，能够极大的提高光传输系统的性能，被认为是构建下一代光通信网络的关键技术之一。　　本论文提出了一套基于数字相干接收的自适应色散补偿与带内外非线性补偿方法，并搭建了基于VPI TransmissionMaker8.6和Matlab的仿真平台，利用其对色散和非线性补偿算法的设计和优化进行了深入的研宄。首先，我们系统地分析和总结了目前色散与非线性补偿技术的国内外研宄概况与发展趋势；接着通过所建立的理论模型研宄和分析了色散对信号的影响和补偿原理，提出了相应的自适应色散补偿技术并对其计算复杂度进行了优化。然后，论文对带内外非线性损伤的产生机理进行了详细的研宄，分别通过基于数字后向传输（DBP)和基于导频的非线性补偿技术实现了带内外非线性损伤的补偿。最后，提出了一种适合于实时信号处理的低计算复杂度的信号损伤自适应补偿方法，通过充分利用脉冲幅度调制导频的光场信息，能够同时实现多种损伤，包括色散（CD)、频率偏移（LFO)、激光相位噪声（LPN)、交叉相位调制（XPM)的补偿，并对算法中的相应参数进行了优化。