基于e-范数的学习推广能力与计算复杂性

来源 :湖北大学 | 被引量 : 0次 | 上传用户:liongliong444
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
我们已经知道基于VC(Vapnik-Chenronenkis)维及其推广FS(Fat-Shattering)维的统计学习理论以及在此理论基础上构造的通用学习机器——支持向量机(SVMs)的关技术.由于其强大的功能和优良的特性,近几年来SVMs技术已经广泛应用于文本分类,图像识别,生物信息学等领域.尽管如此,基于VC维的学习理论仍然存在不足.主要表现为有关推广能力的界可能太大甚至不切实际:在算法的某些实现中表现为收敛速度慢,所需训练样本大,错误率高等缺陷.因此,寻找能够更为精确地描述推广性能和算法复杂性的参数就显得很有意义. 近几年来,人们在这一方面的探索取得了一定的成果.其中基于Banach空间局部理论的e-范数为研究学习问题的的推广性能提供了一个表现良好的参数.已经证明如果Banach空间的对偶单位球的经验e-范数是有界的,那么它的对称凸包具有一个有着较小直径的k阶余维的部分.而且决定该部分的泛函可以经验的算出.依据经验数据寻求所期望的依赖关系的学习问题可以归结为解一个线性方程组的问题.本文在此基础上利用Banach空间的几何结构进一步研究了学习问题的推广性能,给出了统计量复杂性(Statistic Complexity)的概念及其界的估计.本文的主要内容安排如下: 第一章:引言.主要介绍学习问题的背景和研究方法以及本文的主要结果. 第二章:介绍基于VC维及其推广FS维的统计学习理论.主要包括学习问题收敛性的定性分析和定量分析以及SVMs的思想和方法. 第三章:介绍Banach空间和e-范数的有关理论.回顾了Banach空间,e-范数。覆盖数及其与e-范数的关系,VC维与e-范数的关系等后面将要用到的基本概念和重要结论. 第四章:基于前面几章所提得到的已有结果,我们首先给出了基于经验e-范数的样本误差的界.然后依据Banach空间中称为Gauss型的几何特性,我们又得到了基于Gauss型的样本误差的界及样本复杂性估计.最后.在Pojor和Tomczak Jaegermann的一个重要结论的基础上我们总结了基于e-范数求解学习问题的方法. 第五章:这一章主要研究了基于e-范数求解学习问题的算法复杂性.我们把为了达到一定的精度所需构造的经验泛函的最小个数定义为假设空间的统计量复杂性.利用e-范数估计了FS维具有多项式增长级的函数集的统计量复杂性. 据此可以找到一个基数性为统计量复杂性的线性经验泛函集,利用该线性经验泛函集可以构造以所需的任意精度逼近未知函数的学习算法.同时,给出了随机生成这些经验泛函的方法. 第六章:总结与评述.以Hilbert空间为例对本文所涉及的学习算法作出总结,并且提出了有待进一步解决的问题.
其他文献
Lyapunov矩阵方程在控制理论中有着重要的作用,该文研究了统一代数Lyapunov矩阵方程及连续代数Lyapunov矩阵方程和离散代数Lyapunov矩阵方程的定界估计问题.本文采用矩阵不等式
摘要:要想获得施工质量的保证,要想得到工程设计的安全,土木建筑工程结构方面的设计是重中之重,它是整个建筑过程中最重要的环节,不仅关系着建筑水平的高低,还关系着人们生命财产的安全和国家基础事业的发展。  关键词:土木工程;结构设计;安全性;设计;抗力  Abstract: In order to obtain the construction quality assurance, to get th
设X:M→sn是球面sn中不含脐点的m维子流形,m?bius度量g,mobius形式中ф,m?bius第二基本形式B和blaschke张量A是 X的四个基本的m?bius不变量,关于m?bius度量G的法化数量曲率称为m
自从Gummel于1964年提出用序列迭代法处理这类问题[12],开创了半导体器件数值模拟的新领域之后,对此类问题的数值方法研究已有很多。不考虑温度影响的情况,主要工作有:Douglas的
摘要:加强现场施工管理,进一步增强企业质量管理和安全管理的自觉性,提高意识,加强项目管理力度,才能提高建筑工程质量,更好的为社会主义经济建设服务。    关键词:现场管理 质量管理 安全管理  中图分类号:TU714 文献标识码:A 文章编号:       建筑工程的管理是实现建筑企业发展目标的一个重要基础,其管理水平的高低对于建筑企业的长远发展具有非常重要的意义。而随着我国经济的飞速发展,传统的
期刊