H.264/AVC编码标准是由ITU-T和ISO/IEC共同制定的，H.264的编码框架和以前的H.26x和MPEG标准相似。但是在很多环节上采用了新的技术。这些技术包括：帧内编码采用帧内预测，帧间编码采用基于不同块大小和块形状的7种帧间模式，运动估计采用1/4象素内插，用4x4整数变换代替8x8DCT变换以及多帧参考等等。这些技术的应用大大提高了H.264的编码效率，和以往的标准相比，在相同编码质量时，H.264可以节约大约50％的码率。 H.264的帧间预测使用了7种基于不同块大小和块形状的模式，包括16x16 ,16x8, 8x16, 8x8, 8x4, 4x8 和4x4，多模式的运用极大的提高了编码效率和R-D性能。然而，传统的帧间模式选择方法是对所有的7种模式进行全搜索，从中得到最优的模式。该方法的运算复杂度极大。根据统计，多模式的块匹配运动估计，占据了整个编码大约80％的计算量，巨大的运算量使得H.264的编码复杂度大约是H.263的4~5倍，巨大的复杂度严重阻碍了H.264在实时的视频编码及传输等领域的广泛应用。为此，本文提出了新的帧间模式选择算法，在保持编码性能几乎不变的情况下大幅度的降低H.264编码算法的复杂度。同时，本文也探索了所提出的算法在资源有限的DSP平台上实现的有效途径，具有较强的实用价值。本文的主要内容如下： 本文的第一部分首先简单总结了图像编码的基本原理、主要方法与一些主要的图像编码的国际标准和建议。 接着，第二部分详细介绍了H.264/AVC标准以及它所采用的一些新的技术，包括先进的帧内预测，运动估计的新技术，4x4整数变换，熵编码，分层的体系结构等。最后指出了对于H.264进行算法和基于DSP平台的优化的必要性。 论文接着着重研究H.264帧间模式选择的快速算法。首先，分析了多种块模式的帧间预测的复杂度，介绍了帧间模式选择算法的研究现状及一些现有的算法。 然后本文提出了一种新的快速帧间模式选择方法，该方法利用了本文提出的模式预截断和精确的大小模式判决等算法，结合全零预判决，宏块的相邻时空特性，以及8x8运动向量的一致性等信息，快速地选出最优的模式。实验表明，本文算法在对运动搜索部分几乎没有改动的情况下，极大地节省了运算量。另外，本章也详细讨论了本文算法在CIF, D1等大图像格式序列中的应用。通过讨论大图像格式序列的特点，提出了算法针对大图像格式序列的改进。 本文的第四部分叙述了本文算法在DSP平台上的实现。首先介绍了项目所用的Blackfin533芯片和EZ-KIT评估板。接下来，概括了算法DSP实现的流程图和关键技术，包括Memory配置、Cache应用和DMA等，分析了编码器选项的选择。最后详细讨论了从硬件实现的角度对本文提出的帧间模式选择算法的改进和优化。