论文部分内容阅读
支持向量机(SVM)是通过执行结构风险最小化原则来获得好的推广能力的学习机器,它最初是设计用以处理二分类问题的.然而,许多实际问题中都需要处理多类的分类问题.因而,如何有效的推广该算法到多类的情形具有重要的实际意义.目前,主要有两种类型的方法利用支持向量机处理多分类问题.一是通过某种方式构造一系列的两类分类器并将它们组合在一起来实现多类分类.第二种类型是将多个分类器的参数求解合并到一个最优化问题中,通过求解该最优化问题“一次性”的实现多类分类.多分类学习算法的推广性能研究是机器学习的热点问题之一.
在本文中,基于多分类间隔和算法稳定性的相关结论,我们从算法稳定性的角度分析了误差修正码核机器,基于特征函数的多分类支持向量机,有向无环图支持向量机的推广能力,证明了三种多分类学习算法是一致稳定的,从而获得了相应多分类算法的推广误差界.
第一部分,引言阐述了支持向量机的基本思想,介绍了多分类支持向量机的几种主要类型和相应背景.
第二部分,介绍了误差修正码支持向量机的基本知识,利用算法稳定性的性质得到了该算法推广误差的界.
第三部分,分析了一种基于特征函数的多分类支持向量机,得到了其独立于类别数的推广误差界.
第四部分,估计了有向无环图支持向量机的推广误差界.
第五部分,简要探讨了局部多分类支持向量机的推广性.
最后,在第六部分中,分析了前面得到的主要结果,并对未来进一步的研究方向进行了展望.