随着显示技术的提高，越来越多的高清、超高清视频被人们所接受，在有限的硬件条件下，加快视频编解码速率越来越凸显出重要性。新一代视频编码技术HEVC（High Efficient Video Coding）由JCT-VC研究发布，其能在保证同上一代编码技术标准H.264/AVC近似主观效果的情况下获得50％的码率节省。国内外视频厂商和视频网站也积极推动此技术的发展。HEVC技术作为一个继承性的技术标准，其主要技术依然继承了前代标准:基于块的编码，量化，熵编码等。　　在视频编码中，帧间编码是一种对视频数据进行高效压缩的方法，帧间编码算法利用帧与帧之间的相关性来降低编码所需要的码率。在HEVC模式判决中，会遍历所有的帧间模式，未能很好利用块与块之间的相关性，本文将研究HM标准算法的帧间模式选择算法，提出一种帧间三级优化快速模式选择算法，利用帧间块与块的相关性特点，同时结合上一级CU的最佳PU模式和下一级CU的最佳PU模式有较强的相关性特点，对当前CU块的模式选择采用一种三级纵深的方式进行深度优化选择。在运动搜索算法方面，提出一种基于对称八点十字的模型来对已有的算法进行改进，能够在原有算法的基础上有效地减少搜索计算点数，达到节省运算时间的目的。