Vapnik等人在统计学习理论框架下发展出了一种新的模式识别方法和通用的学习算法-支撑向量机(Support Vector Machines,简称SVM)。求解SVM被众多学者认为是继模式识别和神经网络研究之后机器学习领域的新的研究热点。其中Platt提出了一种启发式的SMO最小序贯优化算法,在这基础上,Keethi和C.J.Lin等人对更新点对的选取做了进一步的发展,使得SMO算法的速度大大提高,被广泛使用。本文对以上算法及改进做了新的比较。 近来,人们对在线学习领域产生了很大的兴趣,好的在线学习算法的一般规律是能够有效利用前面训练留下的信息,人们在这方面尽管已经提出了许多优秀的算法,比如说OSVC,simpleSVM,本文认为仍然有很大的改进余地。这些算法通过切割样本集,尽量地减少训练的样本的数目,学习效果各有特点。本文对以上提到的在线学习算法进行了改进,特别是对SimplvSVM,本文使用了无边界约束的SMO做为其训练算法,并通过实验对以上算法的优劣性进行了分析。 本文通过从另一角度进行分析,来提升在线学习算法的速度,即等待到符合一定要求的样本数目时再对样本集重新训练,这样可以减少训练的次数,当样本数目很大时,对时间的节省是巨大的。并且本文算法有效地避免了无止境的等待,这来源于本研究对于最优条件违背程度的量化,而这又来源于对支撑向量机几何本质的分析上。对加速的在线学习算法,通过对约束条件先紧后松的策略。 本研究的算法在多个公开的标准测试,样本数目上万的数据集上的计算结果表明大大提高了在线学习的速度,优于前面提到的在线学习算法。