支持向量机学习算法是本文的主要研究工作,它是建立在统计学习理论和数学规划基础上的一种数据挖掘的新方法。数学规划是运筹学一个重要分支,在机器学习、网络问题、博弈理论与经济学、工程机械学等领域有着广泛而重要的应用,是国际上最活跃的运筹学研究领域之一。分类是机器学习的常见问题之一。本文在近似支持向量机数学模型,近似错误分离最小化模型和推导多类支持向量机对偶性理论这三方面作者分别有所研究,取得的结果如下: 第2章给出了支持向量机的一个近似算法-乘子极大熵算法。此算法把支持向量机对偶模型化为极大极小模型,然后再用乘子极大熵法来解决这个问题。这是一个集极大熵法和乘子法两者优点于一身的算法,极大熵法把非光滑的问题变成了光滑的,乘子法能在一定程度上减少迭代次数,并且可以避免海森阵病态的问题。支持向量机的乘子极大熵算法对于小样本问题,特别是医学上癌前诊断问题有比较好的实验结果,文中的两个例子表明该算法能较好的解决小样本的学习分类问题。 第3章是关于错误分离最小化的一个近似算法的。错误分离最小化是机器学习中很常见的问题之一,本文给出了分离错误最小化数学模型的一个近似模型。在分离错误点个数最小的数学模型中,用分片线性函数来近似步函数,从而给出了一个近似模型。对于近似模型,本文做了一个序列线性化算法,并且证明了算法是有限步终止的。 以往关于多类支持向量机及其对偶问题的文献在理论方面给出的结论不多。本文在二类支持向量机对偶理论的基础上,针对多分类支持向量机的数学模型,给出原始问题解的性质定理以及原始问题和对偶问题解的关系定理,并进行了严格的理论证明。这一章给多分类支持向量机某些算法的设计提供了理论根据。