基于强化学习的网络拥塞控制问题的研究

来源 :哈尔滨理工大学 | 被引量 : 0次 | 上传用户:gaolch009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着WiFi、物联网、卫星通信等互联网相关技术的不断发展和普及,网络传输场景变得愈发复杂,这为网络传输协议设计带来了重的大挑战。而传统的针对特定网络场景设计的拥塞控制算法只能根据预先设定的控制策略僵化的调整数据发送速率,难以适应如今复杂多变的网络。因此,设计出泛用性更强的智能拥塞控制算法是计算机网络方向的热点研究问题。本文针对传统固定规则的拥塞控制协议设计较为复杂、且难以适应如今高速发展的网络环境等情况,将网络拥塞控制问题转化为强化学习问题,让强化学习的智能体通过自主学习拥塞控制的方式替代传统的固定规则设计,大大降低了拥塞控制协议的设计成本。本文首先建立强化学习和拥塞控制问题之间的联系,并提出了QKCC算法。QKCC算法以强化学习中的Q学习方法为设计基础,并通过Kanerva编码函数对大量的网络状态空间进行抽象泛化,最终以在线的方式逐步学习最优的拥塞控制策略。同时,本文根据网络拥塞时状态空间的特点,对原有的Kanerva编码方式进行优化改进,极大提高了网络状态泛化的准确性以及智能体的训练速度。实验结果表明,在常规网络场景下,QKCC算法的基础性能良好,且在抗丢包率和多流竞争的网络环境中,算法的拥塞控制表现也优于CUBIC等传统规则算法。其次,本文将强化学习思想与带内遥测技术结合设计了IRCC算法。以往的大多数拥塞控制算法只能通过ACK的返还时间等信息粗略地判断当前网络状态和拥塞情况,时长会造成拥塞的误判以及带宽的浪费。而IRCC算法通过带内遥测技术可以在数据包流经网络节点时,将实时的网络状态信息写入数据包内,最后作为更精确的网络状态返还到IRCC算法的智能体中,使智能体更精准地判断网络链路的负载情况,进而做出更适当的动作调整数据发送速率。实验证明,IRCC算法相比New Reno,CUBIC,BBR等常规拥塞控制算法,在拥塞发生后更快地恢复链路的带宽吞吐量,并且保持较低的时延。
其他文献
随着体育产业的快速发展和体育产业的结构优化,体育传媒产业作为体育服务业的重要组成部分,其发展得到了政策和资金的双重支持。其中体育赛事转播市场作为体育传媒产业的中占比最大的组成部分,一直以来都深受各界关注。随着2014年国务院出台的《关于加快发展体育产业促进体育消费的若干意见》中明确规定放开相关赛事转播权的限制,各大互联网平台开始进入体育赛事转播权市场并展开了激烈的竞争。其中,由于转播权的特殊性使得
学位
以数字化、智能化为特征的产业变革为我国工业制造企业的发展提供新的发展机会。传送带行业作为智能制造中的一环,也在不断赋能制造业高质量水平发展。W公司作为一家国内的传送带制造企业,已有20余年的经营经验,与众多知名品牌的终端客户、设备厂商建立了良好的合作关系。随着行业的发展,国内外传送带市场的竞争越来越激烈,提升竞争力成为企业发展的主题。营销策略优化是提升企业竞争力的一个重要途径。W公司的发展需要提升
学位
本文针对豪华汽车品牌中具有代表性且销量数据显著增长的林肯汽车品牌与其所执行的营销策略进行深入分析。本文以豪华汽车品牌在华表现与林肯汽车在华销售情况为现实数据依托,以国内外相关营销理论著作为理论指导,以林肯品牌发展历史与现状与在华曲折发展路径为切入点,从而对林肯汽车在华营销策略进行系统性研究。自林肯汽车于2014年再度进入中国后,其在中国豪华汽车市场的表现可圈可点,先后以“低调的奢华”与“年轻态的豪
学位
随着国家“三网融合”的加速推进,以及移动互联网的飞速发展,网络视频资源越来越丰富,视频内容同质化使得新媒体市场竞争异常激烈,这对广电运营商精准营销能力提出了新的挑战。“用户行为”与“精准营销”逐渐成为广电运营商提升竞争力的关键,围绕用户行为的精准营销策略,可以更好地满足用户多样化的需求,提高用户体验和企业营销收益。H公司是全国最大的互联网电视、互动电视、手机电视等综合数字化内容的运营商和广电综合服
学位
随着我国个人消费信贷业务市场的发展以及该业务市场竞争的加剧,商业银行如何基于合理完善的业务营销策略体系来推动业务的增长成了各个银行机构需要重点思考的问题,本文以平安银行海口分行为例,论述分析该分行个人消费信贷业务营销策略现状、问题及成因、营销策略改进建议措施。论文首先论述了目前海口分行开展个人消费信贷业务的行业环境现状,该银行的发展现状、个人消费信贷业务开展现状以及个人消费信贷业务主要的营销策略做
学位
目的对中医护理门诊服务质量指标进行研究,建立一套系统、科学及敏感的中医护理门诊质量评价指标体系,以期为护理管理者提供参考借鉴,促进中医护理门诊服务质量的提升。方法1.本研究通过文献研究法、专家会议法编制中医护理门诊开展及质量评价现状调查表,并应用自行设计的问卷对109家中医医院或中西医结合医院进行了中医护理门诊现况调查,了解中医护理门诊质量管理现状,讨论分析中医护理门诊服务质量差异,为建立中医护理
学位
近年来,随着全国房地产行业宏观政策调控持续高压,“三道红线”、“银行两条红线”、房产税等政策的陆续出台,购房者愈发理性,越来越多的人认可“房住不炒”,使得全国各地的房地产市场竞争日趋激烈。因此,房地产项目的营销策略能否适用于市场,决定了房地产项目的销售情况和利润收益,以及开发商的发展前景。随着调控政策的不断变化,房地产市场环境也在不断变化,因此大量房企在营销策略上寻找突破。考虑到这种市场环境,本文
学位
原油脱水作为油田生产运输过程中不可忽视的重要环节,当油田开采总量不断增加时,采出油随之进入高含水阶段。随着开采技术的不断发展,为提高采油效率,在此过程中加入了碱、表面活性剂、以及聚合物,导致采出的原油粘度增大,油水乳化严重,单一的电场脱水技术已经不能高效、稳定地完成脱水目标。为此,本文从提高原油脱水效率以及最终脱水率的角度出发,开展了电场为主磁场为辅的多物理场联合脱水技术,以期为新型脱水技术的研究
学位
在党的领导下第一个百年奋斗目标已经实现,我们正处于一个团结各民族人民全面建成社会主义现代化国家、向第二个百年奋斗目标奋进的新时代,2018年国家实施的乡村振兴战略,将彻底改变城乡二元格局,这表明我国经济社会结构和模式有了重大转折,党的十九大提出必须要把创新、协调、绿色、开放、共享贯穿于整个新型城镇化,实现新型工业化、信息化和城镇化,这些都是传统的城镇化所不具备的。新时期的城镇化是一种以人为中心的、
学位
国际道路运输作为落实“一带一路”倡议的先行官,是我国加强与周边国家经贸往来和人员交流的重要载体,交通运输部等部门在优化营商环境、通关便利化方面出台了许多新政策、新举措,更好的促进了我国外贸发展。霍尔果斯作为“丝绸之路经济带”的重要节点和TIR运输试点口岸,随着国际互联互通水平持续提升,配套执法监管体系不完善、国际道路运输相关法律法规体系滞后、国际道路运输管理执法机构管理水平不高等问题也日益凸显,严
学位