受计算机技术发展的推动,智能优化技术日臻成熟,已经发展成为一门重要的应用学科,在认识世界和改造世界中的作用也日益显现出来。工程应用实践业已表明,经过优化处理的系统,其性能可以得到显著提升。在通信信号处理领域,许多应用问题本质上也可以归结为优化问题,如通信信号的波形优化成型设计、调制信号的特征提取、多输入多输出通信系统的符号检测等等。对于诸如此类的问题,传统的方法往往难以直接得到满意解,采用优化计算的方法可求得近似最优的处理结果。作为一种新型的优化计算方法,差分进化以简单实用、收敛快、鲁棒性好等特点得到了人们的广泛研究和应用,对进化优化计算的思想创新和技术发展做出了特有的贡献。但是,类似于其它基于种群的演化算法,差分进化也存在某种缺陷,主要表现为搜索停滞和早熟收敛,尤其对于高维复杂工程应用问题,标准差分进化算法不能有效解决。针对此问题,论文提出了相应的改进方法,并通过经典测试函数进行了实验验证,同时研究了改进的差分进化算法在通信信号处理中的两种具体应用。论文的主要研究成果如下:(1)提出了基于参数自适应和混沌局部优化的Memetic差分进化算法(DECLS)。该算法利用参数的自适应调整提高差分进化的全局寻优性能,并利用嵌入的混沌局部优化在最优值附近详细开发,以补偿标准差分进化算法在精细搜索方面的不足,提高最终优化精度。同时,混沌搜索的随机性还可在一定程度上弥补标准差分进化早熟收敛的缺陷。实验证明,混沌搜索和自适应差分进化的组合是十分合理的。DECLS算法在一系列测试中均明显优于标准差分进化算法,也优于其它差分进化变种。并且,DECLS算法在高维函数优化中也表现出一定的优越性。(2)由于标准差分进化是为解决连续问题优化而设计的,不能直接用于二进制空间优化。针对此问题,论文提出了基于参数自适应策略的二进制离散差分进化算法(ABDE)。该算法对标准差分进化算法的变异方法进行了改进,同时令交叉因子和收缩因子根据优化环境自适应调整,以达到最好的优化效果。在13个标准测试函数和经典的二进制规划0-1背包问题上的测试表明,与其它两种二进制DE算法和常用的遗传算法相比,该算法具有更强的搜索能力、更快的收敛速度和更稳定的优化性能。(3)对甚小线性调频(VMCK)调制信号进行了分析,并基于数值拟合原理,提出了基于正弦基拟合分解和差分进化的甚小线性调频信号优化方案,以达到改善VMCK频谱结构的目的,理论分析和仿真表明该方案可成功的去除VMCK谐波线谱,得到带宽更窄,边带抑制更强,且能量更为集中的VMCK波形,同时信号的解调性能有了进一步提高。(4)通过将多输入多输出(MIMO)通信系统的最小误码率(MBER)问题转化为一种最优化问题,研究了差分进化在MIMO通信系统符号检测中应用的可行性,并提出了利用Memetic连续差分进化算法优化MBER解码矩阵W系数的MIMO线性检测方法。实验表明,该方法优于基于MMSE和ZF的MIMO线性检测算子。进一步的,论文又给出了一种以二进制离散差分进化算法寻优代替最大似然检测穷搜索技术的非线性MIMO符号检测方案,以期在可接受的误码率范围内,尽最大可能的降低最大似然检测的计算消耗。