光波通信按传输媒介不同可分为光纤通信和光无线通信。一方面,随着信息技术飞速发展,传统光纤通信系统面临不断扩容的压力,相干光通信因其频谱效率高等优势,已成为长途和城域光纤网络中的主流技术,得到了广泛应用,并被慢慢部署到光接入网中。作为相干光通信关键技术之一,基于数字信号处理(DSP)的载波相位估计算法已日趋成熟,并进入了大量实用的阶段,但现有方案还存在一些问题,有待进一步改进。另一方面,在室内个人活动距离内,可见光通信(VLC)因其不受频谱许可限制、可高度复用等优点,已成为室内“最后几米”无线接入的研究热点。然而目前关于室内VLC的研究大多集中在提高点对点传输速率方面,却忽视了系统的实用性与可行性。在室内场景下,多径信道、调光控制等因素会严重影响系统传输性能,同时也限制了VLC的商用化。因此,需要对未来室内VLC系统的概念性设计进行重新思考,例如,数据传输应与定位、照明等功能融合设计,相辅相成。本文分别着眼于室内VLC系统和相干光通信系统中的若干关键技术,通过DSP的手段对信号进行操控,从而提升系统传输性能,并促进系统的实用性。论文的主要贡献如下:1、在室内VLC系统中,研究非相干光正交频分复用(OFDM)信号的时域特性。针对直流偏置光OFDM和非对称限幅光OFDM,分别提出一种码元时域搬移方法及其统一设计。该方法实现简单,通过对频域子信道进行巧妙预处理,便可搬移OFDM码元时域序列,并将码元头部可能出现的峰值搬移到码元内部。研究表明,在室内色散信道和保护间隔不足等局部非理想传输条件下,时域搬移可显著缓解码间串扰,提升系统误比特率(BER)性能。2、在室内VLC系统中,为克服多光源和室内反射所引起的多径效应,提出一种基于位置的均衡思想,并针对OFDM系统提出一种基于位置的均衡方法及多种实现方式。该方法通过利用接收机的室内位置信息,如坐标,便可对VLC多径信道进行估测与均衡。因此,室内VLC首次成为了一项基于位置热点的增值服务。研究表明,基于位置的均衡可有效对抗多径效应,显著改善系统BER性能,并对接收机的水平和垂直定位误差都具有较佳的鲁棒性。3、在室内VLC系统中,基于OFDM和脉冲宽度调制(PWM)提出一种自适应调光控制机制,能够满足接收机灵敏度需求。为了进一步对调光造成的传输速率下降进行补偿,提出一种将OFDM和多脉冲位置调制(MPPM)相结合的调光控制方法,通过利用MPPM图案效应来传输额外信息。研究表明,在调光时,采用该方法可在维持恒定速率可靠传输的同时,有效降低系统所需的M-QAM符号速率和LED发射功率,并延长系统所支持的调光范围。4、在室内VLC系统中,提出一种室内可见光与红外混合传输及调光控制方法。该方法在调光时采用低功率红外链路来补偿VLC下行链路,既不影响调光效果,又可有效利用调光脉冲的“off”时隙传输数据。研究表明,在低光照强度下,采用所提出的混合方法可在保证系统稳定传输的同时使实现调光控制变得更为简单与节能。特别来说,该方法可在关灯状态下维持最基本的通信链路,有效促进了室内VLC系统实现占空比从1到0的全范围调光控制。5、在相干光通信系统中,基于判决辅助最大似然(DA-ML)相位估计算法,提出一种DA-ML接收机的冷启动方法。该方法通过M次幂算法来获取启动部分数据符号的初始相位噪声,然后切换到传统DA-ML模式对后续符号进行相位估计,可获得与传统启动方案相近的BER性能。冷启动方法无需发送训练序列便可启动DA-ML接收机,且几乎不增加额外处理开销,可有效应用在突发模式传输和多接收机情形中。研究结果验证了其可行性与鲁棒性。6、在相干光通信系统中,从传统DA-ML相位估计算法出发,针对M-PSK系统提出一种弹性DA-ML相位估计方法。该方法考虑了激光器相位噪声的时变特性,根据最大似然准则,在传统相位参考矢量中推导并引入权重因子,从而可有效跟踪时变的相位噪声,提高估计精度。研究表明,弹性DA-ML可有效克服传统DA-ML的块长度效应,无需寻找最佳观测估计块长度或者最优遗忘因子,便可显著改善BER,同时还可放宽系统对激光器线宽的要求。上述研究工作的开展可为短距离VLC系统在真正室内场景下的应用打下坚实基础,同时也可对长距离相干光通信系统中相位估计算法的实用性研究进行有效补充。