改进的AdaBoost集成学习方法研究 ——以KNN为例

来源 :暨南大学 | 被引量 : 4次 | 上传用户:a_yelang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近几十年来,集成学习引起了工业界的极大关注,它是统计学家们在机器学习领域重点研究的对象之一。集成学习通过训练多个单一学习器并对其结果进行有效融合,能够显著提高单一学习器的泛化性能。本文在充分考虑Bagging,Ada Boost和随机森林等集成学习算法的基础上提出了一种基于KNN的改进的Ada Boost算法。由于Ada Boost算法中各单一学习器之间的相关性较高,本文将借鉴随机森林算法的思想来优化Ada Boost算法的性能,即每次训练单一学习器前随机选取部分特征,而不是使用全部特征来训练弱分类器。进一步本文将通过模拟及实际数据分析来展示本文所建议方法的优势。在模拟学习中将KNN算法,Bagging算法,Ada Boost算法,改进的Bagging算法和改进的Ada Boost算法进行性能比较,结果发现改进的Ada Boost算法具有更好的预测性能,其次是Ada Boost算法,改进的Bagging算法,Bagging算法和KNN算法。最后,将改进的Ada Boost算法用于实际数据分析,首先对不平衡的信用卡欺诈数据集进行SMOTE采样,然后使用KNN算法,Bagging算法,Ada Boost算法,改进的Bagging算法和改进的Ada Boost算法对处理后的数据集进行训练分析和性能比较,结果表明改进后的AdaBoost算法的预测性能最优。
其他文献
计划生育政策实施以来,为国家各项事业的发展减轻了压力。但是,当独生子女成为一个逐渐庞大的社会群体时,独生子女家庭在生活上也存在着巨大的风险。失独家庭逐渐成为社会关注的群体,面临各方面的问题。政府目前的政策关怀十分有限,社会团体尚未与失独家庭建立长效的帮扶机制,失独家庭面临的突出问题亟需解决。因此,运用社会工作专业方法介入失独家庭,改善失独家庭的困境是非常必要的,具有现实意义。本文以优势视角下的个案
近年来,随着城市化的快速发展,生态环境问题日益突出。因此如何在提高城市化水平的同时保护生态环境,成为当今日益关注的问题。随着丝绸之路经济带倡议的提出,重点建设中国西北地区成为国家大势所趋,然而西北地区的快速发展,带来了一系列生态环境问题。因此,研究如何使城市化与生态环境达到协调发展,对其今后西北地区健康良好和可持续发展具有重要意义。论文以中国西北地区的18个城市为研究对象,依据区域城市化实际和生态
近年来,职业倦怠作为职业领域越来越凸显的职业病,受到了广泛重视。福利院保育员担当照顾儿童、保障儿童顺利成长、健康生活的重要角色。工作任务量大、要求高、弹性时间少、薪资待遇不理想等原因导致大量保育员产生职业倦怠问题。研究保育员职业倦怠问题,有助于更好的建设保育员队伍,可以使国内福利事业得到显著提升。通过运用小组社会工作方法,针对保育员存在的职业倦怠现象展开探讨,并根据具体的实务过程给予相关建议,以达
随着信息技术的蓬勃发展,网络风险已成为全球各国面临的最严峻的风险之一。网络安全保险是减轻各种网络事件造成的损失的保险,作为有效转移网络安全风险的工具,不仅可以为企业的高效运作提供保障,而且还可以起到“社会稳定器”的作用。虽然从目前来看,网络安全保险在国内还处于萌芽阶段,但相信这一产品的未来发展前景良好。本文在无标度网络下对网络安全保险定价展开研究,希望可以为我国网络安全保险定价研究提供新的思路,为
世界贸易组织成立后不断监督各成员降低关税和非关税壁垒,如今已经卓有成效,但是各成员之间出现了很多“非效率”情况,这些都违背了贸易便利化的初衷,贸易便利化对全球贸易有着至关重要的意义。本文以我国贸易便利化为研究方向,阐述我国贸易便利化发展现状及我国贸易便利化对我国的积极影响,将我国与其他典型国家贸易便利化的发展程度进行对比,进而剖析出我国贸易便利化发展过程中存在的主要问题,如我国关税总水平较高、进口
本文运用偏最小二乘法回归,对第二轮试点以来的三年内我国银行业信贷资产证券化业务发行产品的定价问题进行了研究。研究发现,对于优先A档证券,发行当日指导利率越低、证券加权平均期限越短、资产池加权评级越高、证券的信用支持水平越高、发起银行资质水平越好,优先A档证券的发行利率定价亦越低,且发起银行资质水平与资产池加权评级对其定价的影响程度相当,说明信贷资产证券化业务中有效的破产隔离机制仍然难以彻底实现,投
近年来,金融危机和区域性金融危机对经济以及各个领域造成的影响,引起各国对系统性风险监管予以越来越多的重视。20世纪中期,李约瑟就已经在《中国科学技术史》中说过在将来保险业发展壮大后,对国民经济的正向辅助作用会明显表现出来,保险业的发展也会带动商业市场发展趋于成熟。2014年8月10日,国务院发布了国发[2014]29号印发《关于加快发展现代保险服务业的若干意见》,意见中指出保险业是现代经济稳定发展
档案是国家和社会历史记忆的重要载体,它本身具有的文化价值和凭证价值是无法估量的。档案更是经济社会建设不可或缺的公共信息,是公共组织在公共事务过程中形成的与社会公众密切相关的政治信息、经济信息、文化信息、科技信息、教育信息、军事信息、宗教信息。它具有公共性、服务性和多样性的特征。区县档案馆作为文化的基石,在我国档案事业中发挥着中坚力量的作用。为了适应档案事业的发展需要,发挥其应有的作用,我国各地区县
公共图书馆作为公共文化设施,是政府提供公共文化服务的重要载体,承担着传播主流文化、营造社会氛围、提高全民素质等功能。政府如何履行好职责,加强公共图书馆建设,提升其服务水平,对我国公共文化事业发展具有重要意义。由于在公共图书馆建设和发展过程中,长期以来沿袭已久的行政理念和制度制约,财政投入政策的不健全,公共图书馆建设呈现出资源分布不均、建设水准高低不一、服务质量层次不齐等问题。2018年1月1日《中
人口外流是改革开放后我国社会发展的一个基本特征,大量乡村人口涌向城市,促进了城市发展,同时也增加了农民的经济收入,提高了农民自身文化素质,但同时也产生了一系列的经济、社会等方面的问题。长岭县是全国的产粮大县,同时也是人口输出大县。大规模的人口外流现象,给长岭县实现农业农村现代化的快速发展带来了巨大的难题。因此,如何才能延缓乡村人口外流或者吸引外流人才回流,这对长岭县更好地推动经济发展具有重要意义,