随着社会化信息程度的不断提高,各种新兴业务的出现对用户侧各类终端设备的带宽及传输容量提出了更高的要求,一定程度上增加了光纤传输网络特别是短距离光通信系统中接入端的压力。容量和传输速率的提升势必带来建设成本的增长,而短距离光纤链路距离用户终端最近、部署规模大,对成本和功耗等十分敏感。为了低成本实现高速短距离光通信系统升级,基于带限光电器件及直接调制激光器的强度调制直接检测（Directly Modulated LaserIntensity Modulation Directly Detection,DML-IMDD）传输技术被认为是当前短距离光通信系统中的优选方案。然而,在该系统中,光电器件的带宽限制、光纤色散及DML啁啾等因素导致的线性串扰及非线性畸变将严重影响系统的传输性能。为此,研究有效的信道均衡算法以提升高速DML-IMDD系统性能是当前低成本短距离光通信系统中的研究热点之一。为了低成本提升高速率DML-IMDD系统的传输性能,本文针对该系统中的均衡方案展开了研究:对基于带宽受限的高速DML-IMDD系统进行系统建模分析;以此为基础,设计合适的特征构建方案并提出基于该特征构建的均衡算法;最后利用搭建的基于低成本收发机的高速率仿真系统和实验系统,验证了本文所设计均衡算法的有效性。具体的研究内容如下:1)概述了短距离DML-IMDD系统中信道均衡方案的研究意义以及部分关键技术;介绍了处理该系统性能损伤的均衡算法的国内外研究现状,并对现有方案进行总结;2)通过理论推导和系统建模,分析了影响带宽受限的高速DML-IMDD系统传输性能的关键因素,包括光电器件带宽限制、平方律检测、光纤色散及DML的非线性啁啾等;为设计有效的信道均衡方案提供了一定的理论支持;3)针对传统Volterra非线性均衡方案中存在的抽头数过多、抽头系数更新算法收敛速度慢及不稳定等不足,构建了基于信道损伤特性的二阶特征向量;设计基于该特征向量的改进型二阶Volterra均衡方案,利用支持向量机（Support Vector Machine,SVM）为其训练抽头系数以节省训练开支并提高均衡算法精确度;在此基础上,设计并实现了仅需单一超平面的改进型SVM训练方案以降低多电平信号带来的多分类任务的计算复杂度;最后在单波长80Gb/s PAM-4/8信号的带限DML-IMDD仿真系统和实验系统中验证了本文所设计算法的有效性;4)针对用于高速短距离光通信系统中的全连接深度神经网络（Deep Neural Network,DNN）存在的结构复杂和难以部署等问题,设计了基于Adam更新算法及丢弃层的简化DNN均衡算法;在此基础上对该DNN均衡方案中存在的冗余连接的问题提出“剪切”方案,用于进一步简化基于DNN的均衡方案;最后,通过搭建80Gb/s PAM-4信号传输的DML-IMDD仿真系统,对所设计的基于DNN的简化均衡方案进行了验证。