随着近年来多媒体技术的飞速发展,H.264编码标准已成为视频编解码领域的研究热点。该标准采用了很多实用的编码关键技术,包括帧间预测、帧内预测、运动估计、块变换、量化、熵编码、滤波等,这些关键技术的运用使得编码效率得到了空前的提高。然而,在这些关键技术当中,运动估计在整个编码系统中所占据的时间可高达60%左右。因此,运动估计算法在整个编码系统中的地位越来越重要,同时运动估计算法的优劣直接影响整个编码的效率,所以本文对运动估计算法展开详细研究。目前很多学者提出了一些快速运动估计算法,当前一些经典快速高效算法包括全搜素法FS、三步法(TSS)、基于块的梯度下降法(BBGDS)、四步法(FSS)、菱形搜索法(DS)、十字菱形搜索法(CDS)、六边形搜索法(HEXS)等等。但是以上这些算法都在不同程度上容易陷入局部最优。本文首先简单介绍了H.264视频编解码关键技术及标准简介。然后接着分析了运动估计的基本原理、块匹配运动估计搜索算法的工作原理以及块匹配搜索算法的评价方法,详细研究了运动估计的七种经典的快速运动估计搜索算法,并着重研究分析了这些快速运动估计方法的搜索策略与搜索步骤,并总结了这些算法的使用情况和不足之处。本文主要创新点是针对菱形和六边形两种算法的不足之处提出了其优化的方案。根据真实世界视频图像运动规律,提出了一种新的自适应小菱形-六边形搜索算法来改善搜索效率。在此算法模式中,采用起始搜索点MAD值与事先设定的阈值做比较来决定当前块运动的活动性,当当前块处于剧烈运动时,该算法选择六边形图形搜索算法；当当前块处于缓慢运动时,该算法选择小菱形图形搜索算法。本文运用H.264参考软件模型JM13.2,在VC6.0平台上实现了AHSDS (Adaptive Hexagon and Small Diamond Search)算法的编解码仿真,并通过对几种不同类型的运动序列的测试结果进行对比。实验结果表明该算法相比其他自适应算法以及单纯使用一种搜索图形节约了搜索时间,但同时对率失真性能几乎没有影响,说明它是一种性能较好的运动估计算法。