随着社会的发展,人们对通信系统传输数据的速率和稳定性也有了更高的要求。毫米波由于能够提供丰富的频谱资源而受到广泛关注,但是其物理特性决定了它需要与MIMO(多输入多输出)技术联合应用,才能提供更好的服务,但相应的也需要应用预编码技术改善传输链路质量。考虑到毫米波系统的硬件限制和信道稀疏特性,混合预编码已经成为了毫米波通信系统的主要技术之一。本文首先介绍了各种常用的非线性预编码和线性预编码技术,并分析了不同的预编码技术对系统性能的影响。详细介绍了基于OMP的混合预编码算法的原理,并在考虑如何获得更好的系统性能的基础上,给出了仿真分析。针对全连接结构提出了一种迭代最小均方误差的混合预编码算法。该算法将理想纯数字预编码的系统频谱效率作为参考,以最小化发送信号和接收信号之间的平均平方差为目的,通过假设等效的预编码矩阵,迭代更新混合预编码结构的两级。与传统预编码算法相比,综合考虑了发送端预编码矩阵和接收端合并矩阵的影响,在保证发送信号和接收信号之间的信号平均平方误差最小的前提下,两级系统交替更新,逐渐一起趋向最优设计,从而提高系统的频谱效率。然后在性能优化的基础上,考虑实际硬件成本,提出了一种计算复杂度较低的混合预编码算法。通过与其他几种预编码算法一起进行仿真验证,说明了算法在计算复杂度方面的优越性。最后,我们尝试从合并器的重构中进行算法改进,并模拟和验证算法在不同重构方向的性能。