多输入多输出(Multiple Input Multiple Output,MIMO)系统的盲源分离与均衡旨在无需训练序列的前提下降低系统的码间干扰(Intersymbol Interference,ISI)和信道间干扰(Interchannel Interference,ICI),目前主要有单级和多级两种方法。多级方法中各个多输入单输出(Multiple Input Single Output,MISO)均衡器依次级联,通过均衡项实现盲信道均衡,一般依靠信道估计完成连续干扰抵消以实现盲信源分离,往往需要已知信道阶数信息,且存在级间处理误差的累积。单级方法中各个MISO均衡器相互并列,可同时完成多路信号的盲源分离与均衡,克服了多级方法的缺点。本文研究单级方法,主要工作如下:为克服传统在线算法残留干扰高的缺点,将单输入单输出(Single Input Single Output,SISO)系统下的一些性能较好的盲均衡算法扩展至MIMO系统,并与均衡器输出信号的互相关叠加,以获得较低的系统干扰。进一步依据新提算法的不同特性,构造了两种在线双模式方案,以处理较高阶正交幅度调制(Quadrature Amplitude Modulation,QAM)信号。仿真结果表明:新提出的算法和传统算法相比表现出较低的系统干扰;双模式方案可进一步大幅度降低系统残留干扰,且具备处理64QAM信号的能力。上述改进方法虽然降低了系统残留干扰,但收敛所需样本点很多。支持向量回归(Support Vector Regression,SVR)是一种基于结构风险最小化的小样本学习工具。为此,本文将常模算法族CMA(p,2)、半径引导算法(Radius Directed Algorithm,RDA)的误差函数以及均衡器输出矢量的互相关分别引入SVR框架,提出了批处理算法族SVR-CC-CMA(p,2)及双模式方案族SVR-CC-CM(p,2)-RD。新提出的方法使用迭代重加权最小二乘(Iterative Re-Weighted Least Square,IRWLS)法实现低复杂度代价函数寻优。仿真结果表明:相比于传统的在线算法,SVR-CC-CMA(p,2)仅用很小的数据块即可获得较低的系统干扰;SVR-CC-CM(p,2)-RD在增加很少计算量的情况下可以进一步大幅度降低系统残留干扰,且具备处理64QAM信号的能力。以上基于SVR的盲信号恢复方法存在相位旋转问题,且不具备恢复更高阶QAM信号的能力,因此在SVR框架下,本文又结合多模算法族MMA(p,2)和判决引导算法(Decision Directed Algorithm,DDA),提出了批处理算法族SVR-CC-MMA(p,2)及双模式方案族SVR-CC-MM(p,2)-DD。仿真结果表明:SVR-CC-MMA(p,2)纠正了SVR-CC-CMA(p,2)的相位旋转问题,且表现出更低的系统干扰;SVR-CC-MM(p,2)-DD仅增加较小的计算代价,便可进一步显著降低系统残留干扰,其中,SVR-CC-MM(4,2)-DD具备恢复256/1024QAM信号的能力。