为了获得更大的输出信号功率,功率放大器一般会工作在接近饱和点的工作范围,此时功放会产生非线性失真。预失真是一种补偿功率放大器非线性失真的有效技术,其可划分为数字预失真和模拟预失真,它们通常分别在数字域与模拟域中单独实现。在数字预失真中,基带数字信号的均方误差是预失真器的主要设计目标,但它会优化一些可以直接滤除的失真,存在开销浪费。而在模拟预失真中,模拟信号的带外泄漏、互调失真则是重点优化的关键指标,然而却又有实现困难,精度低,实时性差等问题。根据数字/模拟预失真的不同特性,本文提出了一种基于混合数/模性能指标的数字预失真联合优化架构,以同时优化上述两个不同领域的线性度指标。为了实现联合优化,需要在基带建模出信号的模拟特性。因此,本文定义了一个新的性能指标表达式来表示信号的带外互调失真,其精确数学表达式可通过功率放大器与预失真器的数学多项式模型参数来推导计算得出。基于该表达式,本文进一步构造了基于基带-射频联合优化的全新数字预失真优化目标函数,并针对该目标函数,改进了经典的递归最小二乘数字预失真算法,从而在不增加系统计算复杂度的情况下令基带均方误差和模拟互调失真指标同时收敛。仿真实验结果表明,对于双音信号,本文所提出的联合优化数字预失真相比于传统方案能够令三阶互调失真降低8.6 d B;对于宽带信号,能够令邻道功率比提高4.1 d B,证实了其可行性和有效性。此外,本文在实际功放链路以及真实通信场景中进一步地验证了所提方案的线性化性能。本文利用测试仪器与功率放大器等器件搭建出实测链路平台,将所提方案应用于实际的射频段功放系统并通过链路平台实验获取相应性能指标。同时将联合优化数字预失真方案搭载在基于Open Air Interface开源代码的真实通信系统链路上,证明了该方案在真实场景中可显著消除功率放大器的非线性失真并提升系统线性度。