本文以5G UDN微基站中大规模MIMO的信道估计和信道均衡为背景,设计复变量矩阵处理器。本文不包括复变量矩阵处理之外的基带处理(例如,不包括DFE、FEC、FFT和调制解调等)。根据专用处理器设计流程,采用“自顶向下”的方法对复变量矩阵处理器进行设计。复变量矩阵处理器实现的主要功能包括实数除法、复数矩阵乘法、复数矩阵加法及Hermitian复数矩阵求逆。矩阵求逆过程,根据基站端天线数M与单天线用户数K的比值,灵活地选用LDL算法或者NSE算法。本文利用Matlab进行了定点化仿真,确定了数据的动态范围、缩放因子及原始数据位宽。在此基础上,编写了比特精确的C模拟器,结果的大部分数据都是16比特精确的,少部分数据有1比特误差。在得到参考模型后,设计了复变量矩阵处理器的顶层架构,以及SIMD数据通路、寻址通路等微架构,给出了指令集建议,最后编写了RTL代码,并对其进行功能了仿真验证。在研究意义方面,采用专用处理器设计方法设计复变量矩阵处理器,可以适应不同的应用场景,灵活、运算效率高,还能兼顾面积开销和功耗开销,具有一定的工程应用价值。本文的创新点主要体现在两个方面:首先,在5G UDN标准制定前,完成针对5G高用户密度、高带宽、低时延等应用场景下的可编程灵活的复变量矩阵专用处理器设计,兼容的算法多,可扩展性好,能够满足未来标准演进的需求。其次,本设计采用16比特定点小数替代之前矩阵求逆模块的浮点数,复杂度更低,更为节省开销,且计算性能良好。