MIMO雷达主要是利用空间分集和发射信号的分集技术，采用多个发射天线同时发射相互正交的波形，同时使用多个接收天线接收并处理目标回波信号。发射波形的有效分离可以从以下两个方面实现，设计具有理想正交性的正交波形和设计一组性能优良的脉冲压缩滤波器。因此，发射信号的正交性和有效的分离信号是MIMO雷达实现的关键技术。　　混沌信号具有类随机、无周期、遍历、初值敏感等特性，且易于控制和产生，具有应用到MIMO雷达的潜力。目前，针对MIMO雷达混沌波形设计大多都是基于离散混沌系统的，但是离散混沌系统同连续混沌系统相比参数少，初值的取值范围小，产生机制简单，设计自由度小，因此将连续混沌应用于MIMO雷达正交波形是否能够获得更好的性能需要进行研究。　　本文对基于连续混沌的MIMO雷达正交波形设计和信号分离方法进行了研究，主要包括以下几个方面：　　1.典型连续混沌系统的相关性分析。研究了Lorenz系统、Rossler系统、Chua系统和Liu系统四种连续混沌系统非周期截短对自相关性和互相关性的影响，并分析了采样时间间隔与相关性能的关系。通过仿真验证了采用大的采样时间间隔得到的连续混沌时间序列具有良好的相关性，为将连续混沌应用到MIMO雷达正交波形提供了依据。　　2.研究了基于连续混沌的离散频率编码、相位码波形设计方法。对基于四种连续混沌系统调制所产生的离散频率编码波形和相位编码码波形的相关性进行了分析，分析了基于连续混沌的正交编码波形的相关性与编码长度、采用时间间隔之间的关系。基于Lorenz系统和Liu系统的离散频率编码波形的相关性较好，是较为理想的MIMO雷达发射波形，并且在允许频率编码重复使用的情况下，随编码长度的增大，自相关性有很大改善；基于Lorenz系统、Chua系统、Liu系统的相位相码波形的相关性相似，都是较为理想的MIMO雷达发射波形。同基于离散混沌系统的离散频率编码、相位码正交波形相比，具有相近或较优的相关性能，其中基于连续混沌的允许频率编码重复使用的离散频率编码正交波形，其自相关性能远优于离散混沌正交波形。　　3.研究基于连续混沌的正交调频波形(OCCFM)，在介绍信号数学模型基础上，从理论上推导了OCCFM波形的自相关函数、准正交性、功率谱和模糊函数，数值仿真分析了CCFM波形的遍历性和二维相空间结构，得出OCCFM波形具有混沌性。分析了基于四种典型连续混沌的OCCFM波形的相关性与编码长度、时间间隔之间的关系。以下结论作为选取MIMO雷达混沌波形的依据：基于Lorenz系统和Chua系统的OCCFM波形的相关性较好，是较为理想的MIMO雷达发射波形，同基于离散Bernoulli映射的调频波形相比，相关性能比较接近，但基于离散Bernoulli映射的调频波形的相空间具有较明显结构特征，易被敌对方截获，不具备低截获性。将基于连续混沌的正交调频波形和正交频分技术相结合，提出了OFD-CCFM信号，对其准正交性进行了分析和验证。理论分析和仿真结果表明通过合理选择频率间隔，可以得到更优正交性能，相比OFD-LFM信号，OFD-CCFM信号的自相关峰值旁瓣和相邻信号的互相关峰值都有一定改善。　　4.分析了混沌初值对混沌正交波形相关峰值的影响，根据各类混沌正交波形的相关峰值分布，采用粒子群算法对混沌初值进行优化，并提出一种改进的粒子群算法，通过仿真表明，新算法较少的迭代次数就可以使波形的相关性能得到一定的改善。　　5.针对传统匹配滤波器方法对在非高斯噪声背景下信号分离性能下降的问题，提出一种基于无穷范数归一化的线性约束最小方差脉冲压缩方法，该方法不需要噪声特征指数的先验信息和分数阶数的选择，也不需要任何参数设置，计算十分简单。通过实验仿真结果验证了本文方法，仿真结果表明该方法可以实现在Alpha稳定分布噪声背景下有效的分离MIMO雷达信号。针对迭代自适应脉冲压缩的信号分离方法不能进行脉冲相干积累的问题，提出一种基于线性约束最小方差的脉冲压缩方法，该方法不需要多次迭代，计算简单，不破坏脉冲间的相位相干性，仿真结果表明该方法可以有效的分离MIMO雷达信号。