H.264／AVC是由ITU-T视频编码专家组和ISO／IEC运动图像专家成立的联合视频专家组制定的最新视频编码标准。作为新一代视频编解码标准的H.264／AVC标准，H.264／AVC采用了许多成熟的技术，这些技术都是H.264良好压缩性能的基础。在追求更高的编码效率和简洁的表达形式的同时H.264／AVC也提供了非常好的视频质量，使当前最高效的视频压缩方法。相对于其他视频编解码标准，H.264具有更广阔的应用前景。本文首先对H.264／AVC标准中的一些关键技术，如帧内预测编码，多参考帧的运动估计技术，可变尺寸块的运动估计，整数DCT变化，1／4精度内插，环路滤波器，CABAC等先进技术进行简单的介绍。其次，本文在详细分析了帧内预测模式的选择过程后，采用一种基于率失真优化(RDO)模式下的快速intra8x8模式选择算法。众所周知，H.264／AVC为了进一步提高编码效率，在采用空间域上的帧内预测技术，其色度块尺寸为8x8，亮度块包括4x4和16x16，8x8三种尺寸。由于H.264／AVC支持的帧内预测模式数较多，使预测的复杂度大幅度增加。为了降低H.264／AVC模式选择算法的复杂度，新算法根据SATD(Sum of Absolute Transformed Difference)以及相邻块的预测模式之间的相关性等特征，预先排除了超过65％可能性小的intra8x8模式，避免了不必要的计算，从而大幅度降低帧内预测的复杂度，同时基本保持了H.264／的编码性能。再次，本文对码率控制进行了简单的介绍。作为视频编码中非常重要的技术之一，任何标准离开码率控制其应用都会受到限制。作为H.264种的关键技术，在参考软件JM中给出其算法。JM模型分别进行了GOP层，帧层码，基本单元层等三方面进行码率控制。对基本单元层算法进行改进后，图像质量有所提高，并且相应的比特率更接近目标比特率。最后，对TM S320DM 642进行介绍后，针对该数字信号处理器特点进行代码优化。TM S320DM 642是TI公司最新推出的一款专门用于图像处理的DSP芯片。它是基于C64X系列的芯片，增加了很多外围设备和接口，这些接口和外设使得DM 642比C6416更适合处理视频码流。重点介绍DM 642与视频编解码有关的结构和性能，特别是CPU内核、Cache结构和视频端口结构，。本文结合该数字信号处理器的特点对H.264编码器程序进行优化，从而有效降低了整个编码器的运行时间。