随着无线通信技术的迅猛发展,移动通信系统对网络容量和传输速率的要求日益严苛。作为现代通信系统不可或缺的组件,多输入多输出（MIMO）天线技术的不断革新为缓解这一难题做出巨大贡献。然而在MIMO技术不断发展的同时,各应用场景对其提出的限制和要求也越来越多。其中,最紧要的是天线数量的倍增以及预留给天线排布空间减小之间的矛盾。多个天线单元排列在有限的空间内,很容易产生强烈的互耦效应,这样天线表面原有的电流分布就会被改变,进而影响其性能。因此,如何在有限空间内快速有效地设计出满足性能需求的MIMO天线是非常有研究意义和价值的工作。本文主要基于优化算法对MIMO天线进行自动寻优设计,以摆脱“黑仿”的繁琐设计步骤,为MIMO天线设计提供新思路并改善其设计复杂度和自由度,最终优化得到几款高性能的小型MIMO天线。本文主要工作如下:1.通过分析基于分解的多目标优化算法（MOEA/D）和粒子群优化（PSO）算法的特征和优势,提出了适宜于连续参数优化的多目标优化方案MOEA/D-GPSO,并利用通用的ZDT数值测试函数和经典的对数周期阵列天线（LPDA）设计验证了方案的有效性,尤其适用于三目标优化。进一步考虑实际MIMO天线设计多为拓扑结构优化,通过类似策略提出了二进制版本即适宜于离散参数优化的方案MOEA/D-GBPSO,并通过求解多目标0-1背包问题和一个小型4端口MIMO天线三目标优化设计测试了该方案的性能,优化得到的MIMO天线可以工作于宽频带1.6～2.9 GHz,且在工作频段内可保持良好的电气性能,展示了所提方案应用于MIMO天线优化设计的可行性。2.考虑部分MIMO天线去耦设计需要同时合理配置其拓扑结构、尺寸和位置,即优化设计时需要同时考虑离散和连续参数,提出了适宜于该类设计的混合参数多目标优化方案MOEA/D-M,并成功完成了小型MIMO天线的去耦结构设计。基于同一初始的天线参考模型,分别优化设计了可应用于WLAN/Wi MAX频段的小型单频和双频MIMO天线单元及其去耦拓扑结构、尺寸和位置,其中优化得到的单频MIMO天线和去耦结构的尺寸分别为17×18 mm~2和2×1.6 mm~2,其可操作频段为4.78～6.02 GHz;双频MIMO天线和去耦结构的尺寸则分别为17×21 mm~2和1×3 mm~2,其可操作频段为3.30～3.62GHz和4.85～5.90 GHz。此外,两天线在工作频段内均实现了高隔离度和低包络相关系数（ECC）等期望性能。3.基于5G手机对MIMO天线的高性能需求,将黑洞算法（BH）集成到MOEA/D并提出了适宜在高维参数空间中寻优的多目标优化方案MOEA/D-BH,可以在手机预留给天线的有限设计空间内,对其进行更细致的离散以优化得到更佳的设计解。首先利用该方案优化设计了一工作于LTE band 46的2端口MIMO天线以验证其可行性,待优化参数共108个,经过约30次迭代即可得到满足性能指标的天线,其相应的优化轨迹说明了所提方案的有效性。然后对相同设计空间进行更详细的离散,待优化参数增加至216个,优化得到工作于LTE bands 42/43/46的双频MIMO天线。上述优化实例均验证了MOEA/D-BH在高维参数空间中仍可保持良好的种群多样性和寻优能力。进一步将双频MIMO天线的天线单元拓展为8端口MIMO天线,其S-参数性能与2端口激励时保持了很好地一致性,与同类型设计相比较,该设计可工作于较宽的工作频段且保持了可比拟的电气和MIMO性能。4.提出基于BP神经网络（BPNN）的“廉价”代理模型辅助MIMO天线优化设计,以缓解迭代优化次数与高保真电磁仿真计算代价之间的矛盾。代理模型可代替耗时的电磁仿真过程,对优化过程中未知天线模型的响应快速做出预测,以预测的低精度解即近似解代替高保真全波仿真得到的精确解,可大大降低优化设计的时间成本。为此,提出降维-再编码策略处理MIMO天线待优化的高维离散参数,以降低代理模型训练难度并改善训练得到BPNN模型的预测精度。然后,采用动态更新的BPNN代理模型辅助MOEA/D-BH优化设计单频手机MIMO天线,在不影响设计结果的前提下,代理模型在降低优化设计时间成本方面明显表现优越。