H.264/AVC是ITU-T和MPEG联合专家组JVT制定的最新的视频编码标准。由于其高压缩比、高图像质量和友好的网络特性,它在数字电视广播、实时视频通信、视频流媒体服务、压缩存储等领域具有广泛的应用前景。帧间编码是视频编码器中的关键技术,它在视频编码中占用50%~80%的运算量。因此,对帧间编码技术进行研究并改进其性能对有效地提高编码器的编码速度具有重要意义。本文在对H.264/AVC帧间编码技术进行分析的基础上,针对帧间编码计算复杂度高的问题,提出了一种快速的帧间模式选择算法。该方法根据图像纹理不同,预先判别SKIP模式;然后根据图像高频分量获知图像的细节程度,对块模式进行选择。实验结果表明,该方法在保证图像失真度和码率性能的前提下,单帧编码时间减少了57.48%,较大幅度增加了帧间模式的决策速度。本文的另一个研究内容是分别在编码流程调整、C语言、线性汇编语言、存储器分配四个方面对帧间编码在DM642上进行了优化。编码流程调整是使整个编码算法更加适合DSP的运行环境;进行C语言优化的重点是消除存储器相关性、加强软件流水;用线性汇编改写编码器中的关键代码,能取得非常良好的优化效果;实现基于DM642 DSP实时视频编码器的另一个关键是根据DM642的2级Cache结构和EDMA特性对编码器代码和数据在存储器的分配进行优化。实验表明,对于CIF(352×288)图像,在保持图像质量的前提下,优化后的平均帧率较未优化前提高了5倍。