【摘 要】
:
随着空天遥感大数据技术的飞速发展,多维、多尺度、高分辨率的遥感影像与无人机低空遥感图像数据呈现爆发式增长。传统分类软件在对这些海量影像数据进行处理时存在耗时较长以及分类精确度浮动范围过大的问题。为保证分类精度在合理范围波动的前提下进一步提升分类效率,本文将Flink流处理运算架构与Hadoop分布式系统相结合,从集群过载保护、预防数据倾斜两个方面来进行优化,设计了一种基于Flink的快速无人机遥感
论文部分内容阅读
随着空天遥感大数据技术的飞速发展,多维、多尺度、高分辨率的遥感影像与无人机低空遥感图像数据呈现爆发式增长。传统分类软件在对这些海量影像数据进行处理时存在耗时较长以及分类精确度浮动范围过大的问题。为保证分类精度在合理范围波动的前提下进一步提升分类效率,本文将Flink流处理运算架构与Hadoop分布式系统相结合,从集群过载保护、预防数据倾斜两个方面来进行优化,设计了一种基于Flink的快速无人机遥感图像分类处理方案。本文开展的具体工作内容如下:针对现有遥感图像与无人机低空遥感图像数据量大、地物信息复杂的特性,将Flink分布式流处理引入到遥感图像数据分类过程之中。为防止在多线程处理过程中的异步化、耦合、线程安全等问题的出现,本文在利用Flink集群从Hadoop分布式文件系统HDFS中读取图像时,以流的方式进行处理,与普通的处理模式相比能有效缩短数据读取时间,并减少无谓的I/O消耗。为解决客户端在与集群服务器在海量图像交互处理时过载问题,本文利用Kafka对Flink集群在的Checkpoint机制进行了优化与改进,提出了一种Flink集群进行海量图像数据处理时故障暂存的优化方案。通过判定在海量遥感图像与无人机低空遥感图像处理过程中服务器是否达到运算性能上限,利用双通道处理模式,在达到集群处理模式上限时,将图片加密压缩后启用Kafka分布式消息订阅系统进行缓存,以此来防止数据积压而导致的集群处理效率下降与文件损坏的问题。之后待集群无压力时再从Kafka中将剩余数据消费出来进行处理。与传统Flink集群的Checkpoint机制相比,应用此机制可以使得处理时的图片故障率获得一定程度的下降,同时有效的提升了集群处理上限。为有效提升遥感图像与无人机遥感图像处理过程的效率,并防止海量图像在Flink集群分类处理时出现的数据倾斜问题,本文针对遥感图像海量数据加扩展后利用了 Flink中的KeyBy和Reduce机制对调用Orfeo Tool Box中的lib分类算法库函数进行了相应的优化处理,提出了基于Flink集群针对无人机遥感图像的分类优化方案。与传统分类处理方法相比,对海量遥感图像处理时,在保证了图像分类精度的基础上,不仅有效的提升了分类处理效率,还大幅缩短了分类处理过程所用时间,并进一步提升了系统的可扩展性能。最后,为验证以上机制策略与优化改进方案分类方法的有效性以及系统的并发能力,本课题利用上述机制与分类优化方案进一步设计并搭建完成了基于Hadoop与Flink的遥感图像与无人机遥感图像分布式快速分类处理系统,并通过搭建的系统环境进行相应测试,同时设计了多组对比实验。经实验验证,结果表明,在对海量遥感图像处理时,与传统分类处理方式相比,优化方案分类方法总体分类时间提升了约35%,处理过程故障率下降了 12%;而在海量无人机低空遥感图像处理时,与传统分类方式相比,总体分类时间提升了约17%,处理过程故障率下降了 15%。
其他文献
手性是自然界中广泛存在的一种对称性,在物理学、化学和生物学中是人们普遍感兴趣的课题。原子核手性是由三轴形变原子核中角动量矢量的正交耦合产生的。在实验上表征为一对宇称相同、能级近简并的ΔI=1的两条带,即手征双重带。三轴原子核的手性是当前核结构研究的热点问题,在理论和实验上都得到了深入的研究。本文通过绝热与组态固定约束的三轴相对论平均场理论系统的研究了 190质量区铊同位素链与80质量区奇A核溴同位
本文選取《清至民國婺源縣村落契約文書1錄》中秋口鎮、大鄣山鄉兩個村鎮的契約文書爲研究材料,窮盡搜集了契約文書中的俗字並加以整理,歸納了其俗字的主要類型與特點,並闡述了俗字研究的意義。本文共分爲四個部分。第一章緒論:展示清至民國婺源契約文書的基本面貌,概述《清至民國婺源縣村落契約文書1錄》一書的概况及其編排體例;明確本文的研究方向,梳理清至民國徽州婺源契約文書俗字的研究現狀,指出本課題的研究意義;陳
随着经济的高速发展,环境污染问题越发突显,尤其是水污染问题已经危害到人类的生存需求。半导体光催化剂技术是采用绿色、环保的手段来解决水污染问题。其中Zn O作为一种常见
水体中过量的氨氮对人体和生态环境可造成严重危害,电化学方法可以有效地去除水中的氨氮。在氯离子体系中,通常认为氨氮主要由有效氯的间接氧化而去除,往往忽略了氨氮的直接
C-糖苷作为一类对代谢稳定的糖类化合物,在生物化学和制药领域有着广泛的应用。因具有条件温和、官能团兼容性高等特点,糖基自由基中间体参与的反应在C-糖苷化的合成方面非常有研究价值。本论文主要研究了可见光/金属协同催化的、糖基自由基参与的C-糖苷键形成反应,主要分为以下两部分:1.我们利用可见光/金属协同催化实现了糖醛酸与芳基卤代物及炔烃进行脱羧偶联反应。在该反应中,核糖呋喃糖醛酸可以顺利的与各种芳基
生猪产业是关乎国计民生的重要产业,猪疫病不仅影响生猪产业发展,还危害食品安全。高通量测序技术(Next Generation Sequencing,NGS),在公共卫生监测、疫情调查和传染病诊断
本课题探讨了宋刻本中医医学典籍《外台秘要方》(第一册)的俗字使用情况,揭示了《外台秘要方》(第一册)俗字使用的基本面貌。本文由四部分构成。第一章绪论。该章节介绍了《外台秘要方》的版本及内容、阐述了中医医学古籍俗字研究基本情况,论述了《外台秘要方》俗字研究的意义和研究方法。第二章初探《外台秘要方》俗字。《外台秘要方》俗字可分因音致俗、因形致俗、传承性俗字和自造俗字,由于该书是唐以前医籍汇编,正俗并用
随着中国国际地位的不断提高,国际影响力也在逐渐扩大。汉语正加快走向世界的步伐,越来越多的学习者把汉语作为第二语言来学习。作为扩大汉语教学影响、传播中国文化的重要窗口——孔子学院的规模和数量也在逐年增长。本论文首先介绍了相关的研究背景,指出目前孔子学院的发展引起了世界的关注,回顾了国内外孔子学院,尤其是俄罗斯孔子学院的相关研究文献,指出很有必要对卡尔梅克国立大学孔子学院进行解剖式的分析,试图发现一些
传统的碳氢官能团化反应往往需要在高温的环境下进行,而且需要依赖各式的金属催化剂和氧化剂,虽然外加的是催化量的金属催化剂和化学计量的氧化剂,但是都不可避免的会产生化学浪费和原子经济性不高。电化学有机合成,得益于其能不添加外加氧化剂还原剂的前提下,以电子的得失实现化合物的氧化还原,进而实现下一步反应,且一般以放出氢气的形式替代之前的化学浪费与污染,具有绿色高效可控制性的优点。所以电化学成为了有机合成化
钢渣是钢铁生产过程中产生的固体废弃物,2019年全球粗钢产量达到18.70亿吨,1吨钢材的生产要排出0.10.3吨的钢渣,大量的钢渣被排放堆积,若不能得到有效处理,将会给环境带来极