H.264标准是国际电信联盟(ITU)和国际标准化组织(ISO)联合提出的最新一代视频压缩编码国际标准,其中包含了很多先进的视频压缩编码技术,比以前的视频编码标准在编码效率方面有了明显的提高,然而,由于采用了相当复杂的率失真优化编码技术和时间/空间预测模式,H.264的编码复杂度也远远高于先前标准,其编解码复杂度分别是H.263的3倍和2倍,所以必须对压缩编码算法进行优化以提高编码效率,特别是在实时应用方面。本文首先研究了视频压缩编码的基本原理和标准,分析了国内外研究现状；接着,研究了H.264编码标准的编解码器结构和关键技术,并重点研究了H.264帧内预测模式。最后,本文的工作主要集中在以下两个方面：首先,基于宏块预判以及SATD与RDO的高相关性,对H.264标准的帧内预测算法做出了改进,实验结果证明提出的快速算法在保证图像质量的前提下,比H.264原有算法可平均提高60%以上的编码速度。其次,对双向帧内预测技术进行了研究,并给出了性能分析,根据帧内预测很强的方向性这一特点对双向帧内预测算法进行了改进,从实验结果得出,提出的快速算法比双向帧内预测算法可平均提高约40%的编码速度,同时基本保持了原有的编码性能。