随着无线通信技术的高速发展以及智能终端的普及,无线通信所承载的数据量呈爆炸式增长。在众多类型的数据增长中,视频数据占据主导地位,并且将在未来一段时间内保持这种趋势。为了更好地应对此趋势,满足用户的视频通信需求,业内提出一系列新型的无线视频传输系统和网络架构。在这些系统和网络中,采用适合的视频传输优化策略可以进一步提升视频用户体验以及降低无线系统和网络的开销。因此,无线视频传输优化技术近年来受到了工业界和学术界的广泛关注,具有较高的研究价值。本文针对新型无线视频传输系统和网络中的资源优化问题,提出创新型解决方案。一方面,从功率分配、信道匹配和不均等保护等角度出发,通过跨层设计改善无线视频传输质量;另一方面,关注装备缓存的无线网络架构,通过面向视频用户的无线算法提升业务质量和降低开销。本文以优化理论为基础,采用理论分析、数学建模、算法设计和仿真验证等步骤展开研究。主要贡献以及成果如下:首先,研究实时无压缩视频传输系统。提出一种新型的无压缩视频传输架构,采用功率分配策略实现不均等保护,通过自适应Hadamard变换降低PAPR,并采用离线算法降低计算复杂度和系统时延。建立查找表后,无需实时计算发送功率和Hadamard开关状态。系统根据比特重要性以最细粒度将无压缩视频源分为多个比特流,建立无压缩视频的MSE和BER之间的数学关系。与大多数的UEP策略不同,比特的重要性不是主观确定的,而是通过数学方法分析不同比特对视频质量的贡献度来得到重要性系数。建模最小化端到端MSE的优化问题,约束为传输总功率限制和PAPR限制。通过求解问题提出基于自适应Hadamard变换的功率分配机制。其次,研究一类具有线性失真结构的无线视频传输系统。定义了线性失真结构,并针对此结构的特点,提出一种通用的联合载波匹配和功率分配方案,使基于OFDM的视频传输更为有效。证明了在视频数据符合线性失真结构并且失真函数非增时,所提方案为最小化端到端失真的最优方案。同时,提出了实时视频多播系统ECast来展示所提算法的有效性。ECast不仅是所提算法的应用实例,也是一整套算法解决方案,在设计时综合考虑了无线信道的时变性、多用户的反馈开销和用户公平性等诸多因素。随后,对所提方法的通用性展开讨论,通过数学方法证明所提算法可以应用在基于OFDM的无压缩视频传输中,以及应用在采用了其他缩放因子计算方法和不同失真函数的模拟视频编码传输方案中。最后,研究在装备缓存的HetNet中视频用户的调度和接入算法。首先,考虑装备缓存的小蜂窝网络服务多接口视频用户的场景。解决的问题是在考虑无线缓存特点以及用户多接口特点的情况下如何为视频用户分配无线资源。提出一种新型分布式调度算法来最小化无线网络整体开销。此算法基于ADMM,在经过少量迭代后,网络运营开销可以逐渐收敛到全局最优。其次,研究回程链路带宽受限并且装备了缓存的异构小蜂窝网络中的用户接入策略。将每层网络中的SCBS和UE建模为相互独立的两个泊松点过程,推导出用户平均效用,通过求解用户平均效用最大化问题提出用户随机接入策略。