随着互联网视频产业的飞速发展,视频内容存储和传输的压力越来越大,高效率的视频压缩编码技术显得尤为重要。目前,国际最新一代的视频压缩标准是HEVC,而国内具有自主科技产权的AVS系列编码标准也已经发展到AVS2。但是,新的视频压缩编码标准由于采用了更精细的编码技术,其编码复杂度很高,这限制了它们在实际应用中的普及。对此,需要对视频编码器进行优化,在保持较高压缩性能的同时提高编码运算速度。编码器的优化通常包括两个方向:一是工程实现上的优化,二是算法层面的优化。两者相辅相成,互相补充。本文中,我们在多个视频编码标准上对编码器的优化方法进行了探究。首先,针对AVS+低码率实时编码的应用场景,提出了基于Skip判决流程和主观编码的综合优化方法,在保持x AVS编码器实时编码速度的前提下,大大提高了低码率编码的质量。其次,本文对AVS2编码器中的一些计算密集型模块,包括帧内预测、变换、亚像素插值和双向SATD,使用最新的SIMD指令集AVX2进行了工程加速,在不损失任何编码性能的同时大大提高了模块计算速度。最后,本文针对HEVC帧内预测CU划分模式判决,提出了一种基于卷积神经网络的的快速判决方法,通过卷积神经网络对LCU的完整划分进行预测并指导快速编码,算法相比于原始HM编码器,在平均增加1.509%BDBR的情况下,可以节省58.35%的编码时间。