H.264/AVC是由国际电信联盟和国际标准化组织共同制定的新一代视频编码标准。H.264不仅有着优异的压缩性能,而且具有良好的网络亲和性,这对实时的视频通信是十分重要的。因此H.264正日益受到业界的广泛关注。近年来由于多媒体和网络技术的高速发展,使得视频通信运用到了更加广阔的领域之中,视频编码和视频传输是视频通信的两个重要的组成部分。在为解决网络容量和视频通信质量的矛盾的背景下,基于感兴趣区域的视频压缩编码技术应运而生。视频的感兴趣区域压缩编码技术,即对视频中的感兴趣区域(ROI)进行无损压缩或近无损压缩,在背景区域进行有损压缩,这样既可以使得重构视频有较好的主观视频质量,又可以得到较高的压缩比。本文研究的重点是视频通信中的视频压缩技术,目的是利用基于ROI视频编码技术来解决网络容量和视频通信质量的矛盾。首先介绍了目前感兴趣区域图像编码技术的研究背景和国内外研究现状,并对H.264视频编码方法做了介绍。然后分析在人眼视觉系统之后,提出一种简单快速的视频ROI分割方法。接着,对视频的压缩算法进行改进,利用H.264框架下的灵活宏块排序(Flexible Macroblock Ordering, FMO)特性实现基于ROI的分层可伸缩编码方法,通过改善低带宽下ROI编码的优先传输方式以及在ROI与NROI之间加入梯度过渡带,能有效的克服ROI编码方法所带来视频的边界效应和运动错位现象,可以显著的增强视频的整体主观质量。最后,给出了基于H.264 UMHexagonS一种改进的快速运动估计算法,仿真实验表明在重建图象质量和码率接近的情况下,运动估计平均时间节省12.79%,降低了算法的复杂度,提高了编码器的实时性。