H.264是国际上最新的视频编码标准，它吸收了现有标准的优点，并采用了诸如：帧内预测、整数余弦变换、多模式多参考帧运动估计、自适应熵编码等新技术，大大提高了视频编码的效率。对于视频通信来说，由于通信带宽有限，必须将码率控制在一定的范围，以达到在给定目标码率的条件下，尽可能达到高质量的解码图像。因此，码率控制是编码器不可缺少的组成部分，码率控制算法的优劣也成为衡量编码器好坏的重要指标之一。 本文对H.264码率控制算法G012进行了深入的分析和研究，主要完成以下几方面的工作： 1.在介绍H.264视频编码标准的基础上，分析了其采用的码率控制算法。针对G012算法在不同的初始量化参数(Quantization Parameter,QP)下输出码率不平稳和峰值信噪比(Peak Signal to Noise Ratio，PSNR)差异过大的问题进行分析，考虑了前一图像组(Group Of Picture，GOP)的码率对当前GOP的起始QP的影响，改进了其计算公式。 2.在G012算法帧层码率控制中，引入帧的复杂度，根据帧的复杂度不同，为不同帧分配不同数量的比特。 3.G012算法采用线性预测模型得到当前基本单元平均绝对差(Mean Absolute Difference,MAD)的预测值。该方法需要进行两次直线拟合，存在计算量大且有一定误差的缺点。本文利用实际MAD值之间的时间和空间相关性，设计出一种新的MAD加权预测模型。该模型无需进行参数更新，降低了算法复杂度和预测误差。 4.在G012算法中引入宏块级码率控制策略，对同一基本单元中不同宏块的QP进行调整，从而进一步提高码率控制的准确性和图像质量。 5.研究了G012算法在场景切换时所遇到的问题，提出了一种自适应的码率控制算法，该算法通过场景切换快速检测算法检测出视频序列中的场景切换，在场景切换处终止当前GOP并对GOP层码率分配算法做出修正。从而有效地降低了场景切换对后续各帧编码质量的影响，合理地分配了码率资源，提高了整个视频序列的编码质量。 6.针对低延时应用场合，提出了一个在低延时下H.264码率控制算法的改进方案。该方案基于率失真估计模型，使用拉格朗日方法来寻找I帧的最佳OP，即通过控制I帧的QP来改进码率控制。该算法从GOP整体上考虑，基于GOP的统计特性使码率和失真大小之间达到最佳均衡，减少了80％以上的跳帧数。