ITU-T的新一代视频编解码标准H.264，相对于先前的视频编码标准，能在相同码率下提供很好的视频图像质量。随着H.264常见的三种开源代码的公开，如何有效地在实际应用系统和工程中实现高分辨率视频图像的H.264实时编码是当前多媒体通信中面临的主要难题之一。目前常用的实现平台有。 PC通用处理器、DSP嵌入式处理器、ASIC专用集成电路处理系统等，而且各种不同的平台各有优缺点。 如基于PC平台的H.264视频编码器，主要是利用Windows操作系统，CPU处理器实现视频编码，这是一种最为简单的应用系统，基本上是以软件编解码为主，对于移动用户是很不方便的； 对于基于DSP的嵌入式处理器系统，能够通过编程实现各种复杂的运算，处理精度高，具有较大的灵活性，而且尺寸小、功耗低、速度快：而基于ASIC专用处理器的系统，是被广泛应用于性能敏感平台的一种处理器技术，它能支持比嵌入式处理器更快的数据数率，但ASIC处理器缺乏灵活性。 一旦指令固化到芯片硬件中，就很难修改升级，要提高性能，就得重新设计芯片。 本文工作主要有以下两个方面： 一方面，基于PC平台研究H.264帧间预测算法，在深入研究前人算法，如基于零运动检测的提前中止、两阶段搜索策略等的基础上，提出了一种基于帧间运动复杂度的变尺寸宏块运动估计方法来优化H.264帧间预测编码，实验结果表明该方法有效地提高了编码速度和信噪比，且码率只有很小的上升。 另一方面，针对TMS320DM642的DSP嵌入式处理器平台，在利用demo程序熟练掌握DM642开发板性能的基础上，将X264帧间编码程序结合DM642开发板性能结构移植到该DSP平台上，并分别从编译选项(-03选项、-pm选项和-mt选项)的设置、内联函数的使用、短字长数据使用宽长度的存储器访问、循环展开、汇编代码改写等几个方面进一步直接针对DSP系统进行优化，使得编码速度大幅提高，并且信噪比没有下降。 通过实际视频编码发现，基于本文优化的帧间预测编码算法和优化代码在TMS320DM642DSP平台上具有非常重要的实际应用价值。