基于Excessive Gap的SVM割平面算法

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:osinfobyl
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
SVM是数据挖掘的一种新方法,许多SVM所处理的问题都包含大规模样本集和属性集.传统分解法处理大规模线性分类问题也是归结为求解对偶问题,这大大增加了时间和空间复杂度.SVM割平面算法直接求解原二次规划,已有研究表明它在求解这类问题时较传统分解方法要快很多.本文主要研究SVM的割平面算法:本文首先介绍了现有割平面算法——Kelly割平面算法、SVM-Perf算法和BMRM算法及其在SVM领域所取得的研究成果,指出此类割平面算法虽然收敛速度比分解法快,但其收敛性不稳定,且容易产生锯齿型波动.同时研究了基于原对偶方法的ExcessiveGap算法来极小化非光滑凸二次函数,指出该算法能保证迭代前后的解都满足ExcessiveGap条件,具有较好的稳定性同时保持了较快的收敛速度.进一步将Excessive Gap方法用于求解SVM问题,提出了一种新的SVM-ExcessiveGap割平面算法.该算法的迭代点列都是满足Excessive Gap条件的原对偶解对,它不但消除了传统割平面算法的不稳定性,而且在分类精度相差不大的情况下大大提高了割平面算法的收敛速度.实验分析表明SVM-ExcessiveGap算法和其他割平面算法相比有明显的优势.
其他文献
拓扑学方法是数字图像分析中重要的方法之一,本文研究基于格点拓扑(简称M-拓扑)的三维数字图像分析.出于实现图像变换的需要,自然考虑与格点拓扑联系的M-连续映射和M-同胚,然而这
小波分析理论在近几十年得到快速的发展,其应用领域也相当广泛,包括信号分析、图像处理、计算机识别、微分方程等等.近年来,小波分析理论已逐渐向小波框架理论发展;与此同时,框架理
设S(?)若对任意的x,y ∈ S,都有连接两点的闭直线段xy(?)S,则称S为凸集.在n维欧氏空间En中,称内部非空的有界闭凸集为凸体.设D,C1,C2,...是平面凸体.若D(?)∪Cn,则称序列{Cn}
本文主要运用分歧理论和线性二阶常微分方程周期边值问题谱理论研究了带不连续非线性项的含参二阶周期边值问题正解集合的全局结构。  本文分为两节:  在第一节中,运用非线