大数据平台管理系统的设计与实现

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:leader_007cn
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在现今社会的诸多领域,大数据能够带来的价值已经的吸引了越来越多人的注意。由于人们的关切让大数据相关技术快速发展、在国家战略方针、学术上探究和生活生产中的应用广泛的展开,现今很多国家将发展大数据写入国家未来蓝图的规划中,中国在大数据方面的取得进步更是有目共睹的,智慧城市,无人公交车已经落地。现实生活中对挖掘海量数据中潜在某种特殊规律的欲望没有被满足,掌握大数据技术的人员仅仅停留使用平台做事对于平台的搭建以及平台组件的组合不了解,从整体来看对大数据的应用初具规模,企业对大数据平台的有效管理迫切需要。大数据平台管理系统是在某公司实习期间切合具体业务开发的,公司有大数据平台但是对于集群的管理和集群的扩容需要花费大量的时间,一千个人有一千种出错的方式,因此需要一个平台来规范数据平台的搭建与维护。在彻底掌握公司的大数据平台的整体架构后,开始着手开发切合公司业务流程的大数据平台管理系统,并结合之前的安装经验与Java Web开发技术以及公司具体的业务流程,可以更好的开发系统,相比于业界的Hadoop cdh也提供页面的提供扩容工具,但是只能扩展Hadoop,而本系统不但可以扩展Hadoop还能扩展spark,flume等业界主流的大数据开发组件。很多组件都是根据公司的业务线场景进行的二次开发,不同于官网的安装包,用的安装包是使用RPM打包后的,这对软件静默有很效果。对平台中大量的配置文件做了统一的管理,系统的数据存储采用多种方式相结合配置管理采用Zookeeper而日常操作数据的记录存入My SQL中,这样有利于排错和系统恢复。Master端、Slave端、Zoo Keeper配置管理服务,在系统实现的描述中对这三块有详细的描述并给出了部分的效果图或者流程图,在最后的系统测试部分对系统进行了功能性测试以及性能测试,验证程序是否符合要求。大数据平台管理系统为大数据平台的落地提供了便捷的通道,大大降低了大数据平台的扩缩容的难度,并对平台的配置文件进行高效的管理。系统已经投入生产环境使用,业务方反映良好。
其他文献
【摘 要】分层教学的实施为实现基础教育阶段全面提高学生的思维能力提供了可能。研究者以七年级的一节英语阅读课为例,具体阐述英语教师如何在分层教学模式下设定不同的教学目标、开展不同的教学活动,以达到促进不同层次的学生思维能力发展的目的。  【关键词】分层教学;思维能力;阅读教学  一、前言  《国家中长期教育改革和发展规划纲要(2010—2020年)》把培养学生的思维能力作为一项教育发展战略性任务[1
目的 探讨肝素抗凝全血、血浆、带分离胶真空管全血及血清放置不同时间对血糖测定结果的影响.方法 对到我院进行健康体检的80例体检者分别用肝素抗凝管和带分离胶真空管进行
时间过得真快,《网管员世界》杂志2007年最后一期已经作完了。平时,有很多朋友给我们发来邮件,打来的电话,给我们作杂志提出了许多宝贵意见,而我们编辑部的各位编辑也有很多的话想
舰载机起飞前执行的保障作业是保证舰载机顺利起飞的关键,对舰载机和各项保障资源进行合理调度,可以有效提高保障系统的效率和保障资源的利用率。以尼米兹级航母作为研究背景
Windows 2003系统的“远程桌面”实际上就是终端服务.虽然“远程桌面”最初在Windows XP上就已经存在.但只能提供一个用户使用计算机.因此使用率并不高。而Windows 2003 Servel
基于机载预警雷达的超低副瓣特性,设计并分析了对预警机干扰的多部干扰机协同部署方式及干扰效能.针对以预警机为打击目标的情况,设计并解析分析了多部干扰机掩护飞机突防的
联合作战能力建设发展项目组合分析与优选是提升军队建设效益的关键。为降低项目组合带来分析优选的复杂度,提出了基于分组和交叉一致分析的组合空间生成方法,并基于安全第一
文章从动态规划的基本概念出发,并根据多阶段决策的性质特点,通过对问题进行合理的分析和假设,建立了装备最大效益的动态规划模型。运用反向递推算法求得其最优经费投入方案,
<正>弓形体病是刚地弓形体引起的一种人兽共患寄生虫病,它是一种广泛分布在细胞内的寄生虫,能感染各种哺乳类动物,其传播途径极为复杂。近几年国内人群感染率有上升趋势,弓形