覆盖网络的优化与监督学习

来源 :安徽大学 | 被引量 : 0次 | 上传用户:radcuijun
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
传统神经网络具有结构复杂、学习性能差及速度慢等缺点。支持向量机具有很好的泛化能力,但难以解决多分类问题。张铃教授等在对神经元几何意义分析的基础上提出基于覆盖的构造性机器学习方法,将多分类神经网络的构建转化为在样本集上求出一组覆盖领域,这组领域能将不同类的点分隔开。该算法的网络结构易于确定且能高效地处理多分类问题。理论研究表明覆盖网络的性能与覆盖的个数密切相关,构造覆盖领域时我们所选择的覆盖中心点的选择对领域的个数有直接影响。同时覆盖算法是一个监督学习,需要大量的有标记数据。获取大量无标记数据比较简单,而获取大量有标记数据非常困难。如果我们能把这些没有标记的数据也用到我们的机器学习中去,就相当于我们又增加了信息量,于是分类精度将得以提高。   本文在分析覆盖构造性学习方法的基础上,引入领域搜索算法和半监督算法对覆盖算法进行了优化,并且提出了基于领域搜索的覆盖算法和半监督覆盖算法。主要工作如下:   (1)概述了机器学习和人工神经网络基本理论和算法,详细介绍了覆盖算法的模型及其扩展模型,分析了现有覆盖算法的优势与存在的问题。   (2)领域搜索算法是一种简单有效的局部搜索优化算法,其基本准则是在邻近解中迭代,使目标函数逐步优化,直至不能再优为止。本文将领域搜索算法与覆盖的构造性学习算法相结合,提出基于领域搜索的覆盖算法。该方法对覆盖网络进行优化,使得每个覆盖包含更多的同类点,覆盖的个数也就减少,从而减少运行时间。实验表明该算法可以使覆盖个数得到明显减少。   (3)半监督学习是近年来机器学习领域的一个研究热点,它是一种基于标记样本和未标记样本学习的机器学习算法,整个学习过程不需人工干预,仅基于学习器自身对未标记示例进行利用。半监督学习的核心思想就是对未标记样本进行标记,增加学习样本的数量从而提高机器学习的精度。半监督学习的优越性则体现在能同时利用有标签样本和无标签样本学习。本文将半监督方法与覆盖算法结合起来,提出了基于半监督的覆盖算法,从而克服了覆盖构造性学习作为有监督学习的不足。实验表明这一方法能够有效提高覆盖构造性学习的识别精度,增加了此学习器的泛化能力。
其他文献
时滞微分方程初值问题在实际中应用很广泛,随着人们对初值问题数值解的不断研究,越来越多的新方法被提出。其中大部分方法是根据求解常微分方程数值解的方法推广而来的,包括线性
脉冲微分方程不仅比相应的微分方程理论丰富,而且它更加精确和实际的刻划了许多自然现象.本文主要研究了基于害虫综合治理(IntegratedPestManagementorIPM)策略的状态依赖脉冲
利用动力系统研究经典博弈模型的演化规律是博弈论的一个研究热点.复制方程是基于达尔文的进化准则构建的一个数学模型,是演化博弈研究领域中应用最为广泛的一类微分方程.时滞是现实问题中常见的影响因素,研究时滞复制方程具有重要的意义.本文分别对经典的石头-剪刀-布博弈和雪堆博弈模型进行了研究.首先,基于标准石头-剪刀-布博弈模型,分别建立了含全局突变、单个突变以及复杂突变机制的时滞复制方程,并对不同突变机制
学位
本文主要讨论Rn中包含测度的一些性质,并得到了Rn中一个凸体包含另一个凸体的充分条件,即Hadwiger条件高维的推广,特别的在R4,R5中得到了一个比一般更强的结果;最后介绍了平面上包
二阶常微分方程在数学、物理、工程领域有着广泛的运用,对于其数值解的研究,也是久兴不衰,国内外涌现了一系列重要的研究成果。2009年,Gonzalez等人提出了一类关于一阶刚性方程的
本论文主要研究赋Gaussian测度的广义Sobolev函数空间W2r(T)在Sq(T)-尺度下的逼近特征,并确定了其在概率框架和平均框架下Kolmogorov宽度和线性宽度的精确阶。   本论文分
最小距离问题在很多领域都有着重要的应用。当今社会的主流造型系统通常采用参数曲线、曲面模型。先前的算法大多存在诸如:计算较复杂、适用范围有限等缺点。人工智能算法灵活