随着计算机网络技术和无线通信技术的飞速发展,多媒体业务的需求在不断增加,视频编码技术随之成为通信领域日益关注的焦点和应用的瓶颈。视频编码技术的研究主要包括两个部分:信源模型的建立和编码模式的选择。前者研究信源的统计特性,制定视频编码标准,提供高效的编码工具;后者在前者的基础上为不同视频序列选择最佳的编码方式。作者研究工作的重点是后者。本文在国家863重大攻关项目——“数字视音频编码、传输、测试与应用示范系统”(项目编号:2002AA119010)的资助下,对H.264的编码模型和速率控制算法进行了深入的研究。H.264是ITU和MPEG组织在2003年3月推出的最新视频编码标准。本文首先讨论了H.264系统组成、正交变换、帧内预测、帧间预测、熵编码和方块滤波等关键技术,然后重点分析了H.264中的量化技术和变换技术。通过对大量实验数据的分析,提出了一种基于有效比特位的编码模型。该模型能够准确地描述实际编码的结果,同时本文证明了该模型与理论分析的一致性。H.264采用的率失真优化技术,能够有效的提高编码器的性能。本文对率失真优化技术与速率控制的关系进行了深入的研究,分析了两者的闭环关系和率失真优化技术的速率控制功能。在此基础上提出了一种简化的两层结构的速率控制算法,并通过实验验证了该算法的可行性。在以上研究的基础上,本文给出了一种基于有效比特位编码模型和率失真优化技术的速率控制算法。在H.264上的测试结果验证了新算法的可行性。本文最后介绍了视频会议系统的设计与实现,以作者参与开发的华中科技大学管理学院协同商务系统为例,详细讨论了关键的网络传输技术和视频处理技术。