基于Ceph的小文件存储优化方法研究

来源 :中国电子科技集团公司电子科学研究院 | 被引量 : 0次 | 上传用户:wangleisxh1234
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着网络技术的不断发展和普及,各行各业在发展过程中都伴随着大量数据的产生,并且呈现数据种类繁多、流动频繁、体量变化大的特点,其中小文件存储问题是当前学界和业界急需解决的一大难题。本论文的研究方向与大数据时代的存储发展需求相契合,选择分布式存储系统Ceph作为研究对象,它具有高性能、高可靠和高扩展的性能优势和同时支持对象存储、文件存储和块存储的包容性,但是在面临海量小文件存储时却存在元数据瓶颈、内存损耗过大等问题,在对小文件的访问性能上也存在优化空间。本文针对小文件存储场景设计小文件处理架构,并对集群内部副本一致性策略进行优化,在降低海量小文件存储开销的同时提高了对小文件的访问性能。本文的具体工作总结如下:1.根据对小文件特点研究,设计了一种小文件合并算法,该算法对小文件的关联性进行提取并以此为依据对小文件进行合并,同时对合并文件内部结构进行优化,减少合并过程中的内存损耗,并在访问目标文件时,将其所在的合并文件中其余文件存入客户端缓存来提高缓存读取命中率,改善小文件的存储性能。2.对Ceph存储系统的副本同步策略进行改进,设计动态副本一致性更新策略,根据当前用户请求情况将副本同步状态分为W状态和R状态,在不同状态下使用不同的副本同步机制,如果读请求占比高则采用R状态下强一致同步策略提升数据读取带宽,如果写请求占比高则采用W状态下的异步更新副本方式降低响应延迟,使系统在面对众多小文件读写请求时能更加灵活的适应不同读写比例的请求状况,充分利用系统资源平衡读写代价,提升用户体验。根据方案设计在国产平台上搭建系统测试环境,验证优化后的小文件存储性能和副本更新策略的有效性。设计对比实验对小文件的读写速度、不同请求类型下的响应延迟和带宽进行研究,结果表明本文的方案有效的提升了小文件的存储性能,并改善了不同请求类型下的用户体验。
其他文献
身体功能训练起源于美国,它起初是作为治疗运动损伤的康复手段进行运用。到2006年我国开始对其展开研究与应用。2011年中国国家体育总局与美国AP公司于达成合作,在我国部分运动项目中引入身体功能训练内容,并在2012年伦敦奥运会上得到确认,此后身体功能训练在我国得到迅速发展。身体功能训练作为一种训练手段的出现,迅速被国内外运动队所学习采用,并且在身体素质和运动技能的提升都取得了良好的效果。目前学界对
学位
随着我国经济的快速发展,国家对群众体育的日渐重视。同时,伴随着北京冬奥会的顺利举办,以及中国体育代表团在东京奥运会、北京冬奥会取得的优异成绩,对群众体育发展起到了巨大推动作用。而如今,大健康时代的到来使得人们对于健康的关注度越来越高,这些都促使全民健身体育得到了蓬勃的发展。击剑作为一项新兴的时尚运动也慢慢的走进了大众的视野。从2015年以来,安徽省陆续出现了多家击剑俱乐部。为进一步了解安徽省青少年
学位
自从国家鼓励大学生士兵参军入伍,大学生士兵这一群体就备受关注,目前征集对象也由过去单纯的强调在校大学生,逐步向普通全日制大专以上毕业生拓展。这一群体退役后,部分大学生士兵欲重返校园提升学历,他们的再学生化问题逐渐引起社会的关注度,国家也出台了一系列政策鼓励退役大学生士兵继续学习。随着再学生化系列政策的推出和执行,政策供需是否匹配成为重要的话题。对退役大学生士兵再学生化政策供需匹配进行研究,有助于解
学位
随着物联网技术的发展,服务器的数量日趋增多,这一趋势对服务器管理的人力和技术造成了极大冲击。传统的服务器管理技术需要大量人力、效率低下且消耗大量资源,在面对规模庞大的服务器集群时显得尤为无力。针对这一问题,本文提出了基于IPMI标准的服务器远程管理系统。BMC芯片是一种嵌入式的采用ARM架构为核心处理器的服务器主板管理控制器,通过移植相应的嵌入式Linux操作系统内核与在操作系统基础上搭建的Web
学位
邱象随一生由明入清,历经崇祯、顺治、康熙三朝。他的一生可以代表许多易代之际入仕的士人,既遭受了易代带来的苦难,又接受了统治者惯用的怀柔政策;既接受儒家“忠君”信条的禁锢,又甘愿忍受“朝秦暮楚”的心理惩罚,选择入仕新朝,为生民立命,坚守儒家“救时”“济世”的政治观念。同时,邱象随的诗歌创作,既坚持“诗以言志”的创作观,又发展了“诗史观”,以诗补史,以诗存人,因而有意记录、再现清初淮安诗坛的盛况。本文
学位
随着嵌入式领域内工艺水平的提高、硬件性能的突破、软件技术的不断革新以及应用模式的不断变化。在计算机软件系统方面,呈现出从专用到通用再到定制的发展趋势。在计算机硬件系统方面,由于异构架构在嵌入式领域能耗方面的优势,处理器逐渐向着多核异构发展。为了有效整合不断发展的软件技术与硬件环境,引入了嵌入式虚拟化技术,该技术通过增加虚拟机管理器中间件来整合不断发展的软硬件技术。因此,虚拟化技术再次成为了嵌入式领
学位
人口集聚对于地区的经济发展以及城市化进程都有着不可忽视的影响。人口向地区集聚也就意味着该地区拥有着更为丰富的劳动力,劳动力的增加会促进经济的发展。但除此之外,人口的过度集聚以及人口规模持续膨胀会随之产生一系列的社会经济问题,最为直观的就是人口规模超过了社会公共服务所能承受的最大值,造成社会资源紧缺,人口拥挤就会抑制经济的发展。人口集聚也就意味着会有地区的人口流失,长期流失人口的地区经济必然会加速经
学位
目的:本研究探索了解“1+X”证书背景下高职院校护理专业学生从事老年照护意愿现状及其影响因素,旨在引导高职护生获取多种职业技能证书,拓展就业途径,缓解当下老年照护人才紧缺的情况。方法:1.文献研究法:通过查阅国内外相关文献资料,收集、整理、归纳并结合新政策时代背景,初步确定本调查研究目的及调查内容框架。2.半结构式访谈法:运用质性研究中的半结构访谈法,收集访谈对象从事老年照护意愿及影响因素的资料,
学位
韩非子是战国末期法家思想的集大成者。韩非子“势治”思想的产生有其社会背景及思想渊源,春秋战国时期经济基础变化,引发政治制度变革和思想变化,百家争鸣。韩非子的“势治”思想批判继承了前期法家的“势治”思想和儒家、道家的思想。韩非子认为,与其去盼望尧舜那样的圣明的君主治理天下,不如建立有效的制度约束,抱法处势,形成尚法之势,这样一来,即使是平庸的君主也可以治理天下,不需要圣王,这就是韩非子的“势治”思想
学位
刑事诉讼程序指的是,承担刑事追诉职能的国家专门机关或者诉讼当事人为了追诉犯罪而进行的诉讼活动,刑事诉讼程序的合理性和正当性是正确审判案件的前提条件。我国古代的刑事诉讼程序发展至秦汉时期已经形成了较为完整的程序链条,张家山汉墓竹简《奏谳书》中所记载的秦汉时期的司法案例证实了这一点。从记载的内容来看,张家山汉墓竹简《奏谳书》是一部判例集,它完整记载了秦汉时期刑事初审案件和乞鞫案件的审判过程及审判结果,
学位