一种具有O(1/T)收敛速率的稀疏随机算法

来源 :计算机研究与发展 | 被引量 : 0次 | 上传用户:sa753159
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随机梯度下降(stochastic gradient descent,SGD)是一种求解大规模优化问题的简单高效方法,近期的研究表明,在求解强凸优化问题时其收敛速率可通过α-suffix平均技巧得到有效的提升.但SGD属于黑箱方法,难以得到正则化优化问题所期望的实际结构效果.另一方面,COMID(composite objective mirror descent)是一种能保证L1正则化结构的稀疏随机算法,但对于强凸优化问题其收敛速率仅为O(logT/T).主要考虑“L1+Hinge”优化问题,首先引入L
其他文献
院前急救当中应积极运用护理的急救思维,使用高效的护理方法,于院前急症、危、重症病人的急救当中起着非常重要的作用,熟练的了解院前急救现场及转运途中的监护且及时有效的予以
为解决企业废水处理难题,经技术研究,采用两相厌氧技术,探索出一条木薯生物质化工废水资源化综合利用的路子。
分布式存储系统为保证数据可靠性,需要对数据进行冗余存储来应对由于节点失效所带来的数据不可靠性.基于矩阵积构造的精确修复最小带宽再生码除了能够显著降低系统的存储冗余
针对常见的雷达脉冲信号(常规信号(NS),线性调频信号(LFM),双线性调频信号(DLFM)运用时频工具对调制方式的识别进行研究。运用两种时频分析方法1.短时傅里叶变换2.相位展开算法.通过
随着社会生产力的发展和广大群众物质文化生活水平的提高,人们对改善生活和工作的环境有了新的要求,尤其对与个人生活息息相关的家居小环境的装修和美化,已成为当今社会潮流中的
教学体系的完善,教学机制的健全,促进了“人文教育”的产生。人文思想随着社会变革也相应的发生改变,改变了传统的理论教学模式,加强了体育教学的重视。当前高职院校的学生面临社
通过行业走访及向先进院校学习经验等方式,结合市场需求开展《建筑设计》课程改革。从教学单元设计到课程整体设计进行改革,并改善实训条件、改革考核方式,以期培养出与市场接轨的建筑设计类人才。