【摘 要】
:
在线有序回归在数据样本的标签排序研究中具有非常重要理论和现实意义.但由于数据的噪声影响,人们开展了诸多去噪声算法.本文基于Ramp类损失函数,提出了基于PA类及PRIL的PA-RAMP类、PRIL-RAMP类等耐噪算法,研究其在在线有序回归中的抗噪性能及应用,主要从以下三方面展开研究:首先,基于在线有序回归PA类算法的基本框架,分析Hinge损失的噪音敏感性,引入Ramp损失函数,利用CCCP方法
论文部分内容阅读
在线有序回归在数据样本的标签排序研究中具有非常重要理论和现实意义.但由于数据的噪声影响,人们开展了诸多去噪声算法.本文基于Ramp类损失函数,提出了基于PA类及PRIL的PA-RAMP类、PRIL-RAMP类等耐噪算法,研究其在在线有序回归中的抗噪性能及应用,主要从以下三方面展开研究:首先,基于在线有序回归PA类算法的基本框架,分析Hinge损失的噪音敏感性,引入Ramp损失函数,利用CCCP方法将非凸损失目标函数转化为凸优化问题,提出PA-RAMP、SCA-RAMP耐噪算法降低噪声数据的影响.基于在线凸优化理论,提出算法阈值保护性,并在实际数据集上研究了耐噪算法的预测精度、统计性质及耐噪敏感性.研究结果表明,随噪音水平提高,本文提出的PA-RAMP类算法比基准算法PA-I有更高的预测精度,PA-RAMP在不同噪声水平的数据集上的抗噪性能优于其他基准方法(PA,PA-I和PRIL).这表明Ramp损失在一定程度上能有效降低噪声数据的影响.其次,针对极小化平方误差损失的PA-II算法,改进其在在线有序回归中的耐噪格式,基于Squared Ramp损失,提出PA-II-SRAMP、SCA-II-SRAMP算法,并分析算法合理性.实验结果表明,PA-II-SRAMP算法的抗噪性能明显优于PA-II和PRIL算法,并优始终优于PA、PA-I算法,较耐噪PA-RAMP算法,在计算效率上显著增强.经验证,所提算法能有效改进在线有序回归的噪音敏感性.最后,针对大数据背景下耐噪算法复杂度高的问题,提出一种新的基于定步长更新规则的PRIL-RAMP在线有序回归算法及非线性格式下的K-PRIL-RAMP算法,利用OGD方法迭代求解参数最优解,并在理论上证明所提出的PRIL-RAMP算法的阈值保护性.数据实验表明相比于基准算法所提PRIL-RAMP和K-PRIL-RAMP抗噪性显著增强.且相比于自动选择步长的PA-RAMP类耐噪算法,PRIL-RAMP更具抗噪稳定性,是一种鲁棒的、易于处理有噪声数据流的算法.
其他文献
全文总共分为五个章节,分别讨论了几类微分模型的极限环、周期行波解以及局部临界周期分支问题.第一章,主要阐述了以上三个问题的研究背景和近况,并对每章的主要研究内容做简要介绍.第二章,研究了一类带有y3项的三次广义Riccati系统原点在6阶细焦点和3阶细中心条件下的极限环数与局部临界周期分支数,得到6个极限环与3个临界周期分支的结论并给出相关证明.第三章,研究了一类密度依赖迁移和具有Allee效应种
合成孔径雷达干涉测量(Interferometry Synthetic Aperture Radar,In SAR)测绘技术中,通过分析同一地理区域SAR图像对的干涉相位差,间接计算目标区域高程数据模型(Digital Elevation Model,DEM),高效对地表变形进行调查和监测。In SAR技术具有极高对地测量精度的同时也易受系统本身各类干扰源的影响,而相位解缠的结果亦是In SAR技
网络技术和多媒体技术的发展使我们进入“大数据”时代,由此而产生大量无标签高维数据.如何处理、聚类高维数据以获取有用的信息是一个具有挑战性的问题.高维数据聚类问题中,矩阵分解是十分有效的方法.对于图片数据来说,由于其存储形式的非负性,非负矩阵分解算法(nonnegative matrix factorization,NMF)适用于图片数据的处理与聚类.本文针对于图像聚类领域中无监督情形下NMF算法提
二十一世纪初,多智能体系统(MAS)的协调问题例如蜂拥、群集、一致等等,引起了学者们的广泛关注.学者们在MAS协调问题探索的过程中获得了许多优秀的理论成果,并把研究成果运用于数学、控制工程、社会学等多个学科.一致性作为智能体协调控制的一个基本问题,虽然已取得比较全面的理论框架,但是有待于更深入地去探索.在实际生活中,因为多智能体间普遍存在通信时延现象,所以研究MAS时考虑时滞问题是有必要的.本文对
高维图像具有丰富的光谱信息并且有广泛的应用,在采集和转换中总是会受到各种各样的污染,如:高斯噪声、脉冲噪声和条纹等等,不仅使得人们无法快速且准确地获得信息,而且还会影响其后续处理和应用。各种各样高维图像恢复的方法也是层出不穷,最常见的是张量分解,通常是将3D转换成2D,甚至更低维,这样会破坏固有结构,造成数据缺失。本文主要利用张量环分解对高光谱的恢复进行研究,提出了一系列的针对高光谱图像恢复算法,
二阶锥权互补问题是一类重要的锥优化问题,其在经济、工程、化学、力学等领域有广泛应用,近年来备受关注.当权向量为零向量时,二阶锥权互补问题退化为二阶锥互补问题,经济学中的Fisher市场均衡等问题可通过建立权互补问题模型求解,且效果优于建立互补问题模型求解.因此研究权互补问题的理论和算法具有重要的理论和实际意义.但目前关于权互补问题的研究尚不多见.本文主要给出求解二阶锥权互补问题的效益函数法.具体工
作为非线性互补问题的特例,张量互补问题是近年来热门的研究课题.许多实际应用模型都可以用随机张量互补问题来刻画.模系矩阵分裂迭代方法是求解互补问题的一类经典方法.本文结合模系矩阵分裂迭代方法以及张量分裂,构建了几类求解张量互补问题与随机张量互补问题的快速算法,具体如下:第一、提出了求解张量互补问题的一类光滑模系矩阵迭代方法.其基本思想是,先将张量互补问题转化为等价的模系方程组,然后引入一个逼近的光滑
图像聚类是将一组图片数据划分成若干簇,使得簇内数据彼此相似,而簇间数据不相似的过程.非负矩阵分解(Non-negative Matrix Factorization,NMF)是一种将非负数据矩阵分解为两个非负因子矩阵乘积的方法.由于NMF具有较强的可解释性和较好的聚类效果,在聚类中有着广泛的应用.然而,传统的NMF是一种无监督的聚类方法,在聚类过程中是不使用先验信息的.但是在某些实际应用中,数据可
本文研究了含时Poisson-Nernst-Planck(PNP)方程的梯度恢复型后验误差估计,基于该估计设计出相应自适应有限元算法,并将其应用到离子通道实际问题中.主要分为以下几部分:首先,对含时PNP方程,利用梯度恢复技术,构造梯度恢复型后验误差估计子,并给出其后验误差的上界和下界分析结果.接着,基于梯度恢复型后验误差估计子,针对含时PNP方程,设计出自适应有限元算法,在Fortran环境下实
制造业是国民经济的主题,随着中国制造2025的提出,制造业亟需改革的就是生产工艺以及检测手段,传统的检测方法主要是人工目检,无法实现24小时在线质检,这在一定程度上会导致工作进度缓慢。随着智能化检测成为大势所趋,能有效克服传统人工的不足。冲压件是一种典型的零件,工艺难度不同,但是随着生产速度的加快,缺陷概率也会增加,对其进行快速缺陷检测是十分有必要的。本文针对冲压件表面缺陷的快速识别问题,对图像处