2003年3月,ITU-T/ISO正式公布了H.264视频压缩标准。由于其具有比以往标准更为出色的性能,被人们称为新一代视频编码标准。与H.263或者MPEG-4相比,在同样视频质量下,其码率能够降低一半左右;或者说在同样码率下其信噪比明显提高。H.264标准支持从低带宽、高误码率的无线移动视频通信到高码率、低延迟的视频广播及在线流媒体等多种应用,因此日益受到业界的关注。码率控制算法作为视频编码器中的核心部分,直接影响到视频编码器的效率和视频质量。视频压缩编码的主要目标就是在比特率受限条件下,尽量使编码失真最小。为了取得最优化的压缩效率,确保编码数据在信道成功传输,并在接收端获得最佳的视频质量,率失真优化和码率控制技术具有重要的地位。本文在研究了H.264标准码率控制算法及率失真优化的基础上,所作工作如下:一.基于基本单元之间的时间和空间相关性,改进了一种用于线性回归的加权模型,以替代标准的线性模型。用于MAD(Mean Absolute Difference)预测值的更新。该模型的优点在于不需要实时更新模型参数,降低了算法的复杂度,节省了线性拟合的计算时间。二.在宏块层利用了现有MAD值表示宏块复杂度,进一步根据宏块的复杂度阈值自适应地调整量化参数QP,对复杂度高的宏块采用较小的QP值,进行精细量化;对复杂度低的QP值采用较大的QP值,以节约比特数。改进算法弥补H.264码率控制算法在宏块层没有码率控制策略的不足,更精细地调整了视频质量和码率之间的关系。三.研究了一种在丢包网络环境下进行率失真优化的改进算法。该算法将H.264标准算法中的解码器期望失真度代数和平均求解算法,改进为加权和平均求解算法,在当前信道丢包率与编码器进行仿真解码的次数之间建立起了一种对应关系,根据此对应关系,编码器可根据当前信道丢包率信息以及模拟随机信道状态的个数来自适应地决定进行仿真解码的次数,从而有效降低编码器端的计算量和编码耗时.