论文部分内容阅读
最小二乘双支持向量机是在传统双支持向量机模型的基础上将二次规划问题修改为最小二乘形式得到的,该模型只需求解两个线性方程.最小二乘双支持向量机在取得理想分类精度的同时,计算时间也大大降低.因此,该模型在机器学习和数据挖掘等领域受到人们的广泛关注.本文针对含有噪声点的分类和回归问题,提出了两种最小二乘双支持向量机拓展模型,并发展了在线学习算法.本文的主要工作及创新点如下:(1)为了克服噪声点对分类精度的影响,通过引入双重加权机制,提出加权最小二乘双边界支持向量机,并发展了在线学习算法.同时还通过引入一种新的剪切机制,有效地避免了在求解非线性模型时每一步迭代过程都需要更新核矩阵的麻烦.基于三个含噪声点的UCI数据集的仿真实验表明,线性情况下加权最小二乘双边界支持向量机的在线学习算法与最小二乘双支持向量机、模糊加权最小二乘双支持向量机和加权最小二乘双边界支持向量机的离线学习算法相比,在获得理想分类精度的同时,计算时间也最短.基于三个含噪声点的UCI数据集和双月亮数据集的实验表明,具有剪切机制的在线学习算法可以有效地求解非线性加权最小二乘双边界支持向量机模型.(2)为了克服噪声点对预测精度的影响,通过引入一种针对回归问题的加权机制,提出加权最小二乘双支持向量回归,并发展了在线学习算法.基于四个含噪声点的UCI数据集的仿真实验表明,线性情况下加权最小二乘双支持向量回归的在线学习算法同最小二乘双支持向量回归和加权最小二乘双支持向量回归的离线算法相比,具有较小的预测误差,而且计算时间最短.基于相同数据集的仿真实验表明,非线性情况下加权最小二乘双支持向量回归模型同样具有理想的泛化性能.