【摘 要】
:
对于一个高维复杂系统,小质量极限是一个具有重要意义的新课题。它不仅可以降低系统的维度,提高计算效率,而且对于一个只能获得位置信息的微观系统,是必要的近似过程。另一方面,在随机采样算法中经典的基于Langevin动力学的采样算法和Metropolis-Hastings算法满足细致平衡条件,其收敛速度受到限制。因此设计不满足细致平衡条件的Langevin采样算法和Metropolis-Hastings
论文部分内容阅读
对于一个高维复杂系统,小质量极限是一个具有重要意义的新课题。它不仅可以降低系统的维度,提高计算效率,而且对于一个只能获得位置信息的微观系统,是必要的近似过程。另一方面,在随机采样算法中经典的基于Langevin动力学的采样算法和Metropolis-Hastings算法满足细致平衡条件,其收敛速度受到限制。因此设计不满足细致平衡条件的Langevin采样算法和Metropolis-Hastings算法以提高算法的收敛速度具有重要理论和应用价值。针对大数据机器学习问题,基于哈密尔顿体系的随机梯度算法从数据中自适应地学习算法参数,而不是人为预设参数可以提高算法的采样准确度。这两者都是随机采样算法中未解决的问题。我们研究的高维系统的小质量极限过程为解决上述问题提供了理论基础和实现框架。一.首先利用后向Kolmogorov方程的均质化技巧,我们独立且完整地推导出小质量极限方程中新的“伪”漂移项——由噪声和环流引起的额外漂移项,其在极限方程中的出现保证慢速变量的稳态分布(如果存在)服从Boltzmann-Gibbs分布,特别地,发现一维小质量极限对应着反伊藤随机积分解释。二.然后我们使用平均首次穿越时间方法先后计算一维系统里强摩擦力(常数和依赖位置变量的函数)和小质量极限下不同随机积分的逃逸速率。发现在小质量极限下,反伊藤积分能得到正确的逃逸速率公式。基于强摩擦力与小质量极限的等价性,证明了小质量极限过程推导是正确的。对于高维的简化系统,利用随机过程的大偏差理论,我们计算发现小质量极限方程中势函数与FreidlinWentzell最小作用量泛函之间存在简单关系。并得到逃逸路径以及逃逸速率公式,讨论了“伪”漂移项在逃逸速率公式可能起到的作用。利用计算逃逸速率进一步理解小质量极限过程。三.进一步基于概率流的概念,我们分析证明了小质量极限方程不满足细致平衡条件。所以结合黎曼流形,针对贝叶斯模型中的参数学习问题,设计出不可逆Langevin蒙特卡洛算法,并进一步利用“举”思想创造性地实现了满足非细致平衡(Skew Detailed Balance)条件的Metropolis-Hastings算法。与可逆Metropolis-Hastings算法相比,由于其发挥了构造的随机过程的不可逆特性,其收敛速度有明显提高。四.最后将实现的不可逆Langevin蒙特卡洛算法扩展到大数据的机器学习场景中。提出基于不可逆随机梯度黎曼Langevin动力学采样算法的框架及其扩展。实现了自适应方差受控的随机梯度黎曼哈密尔顿蒙特卡洛算法及其对称分离的高阶数值积分改进算法。提高了算法的采样准确度。我们以高维小质量极限问题为切入点。在严格推导出它的极限方程和计算其逃逸速率问题后,利用它不满足细致平衡条件的特性,设计了新的基于Langevin动力学的采样算法。针对该算法的离散化误差,实现了不可逆Metropolis-Hastings算法。最后将基于Langevin动力学的采样算法扩展到大数据机器学习场景中,提高了现有算法的性能。数据实例支持小质量极限过程的推导结果和相关算法的设计。
其他文献
近年来,随着视频监控网络的大规模建设和移动终端设备的加速普及,图像和视频数据呈现爆炸式增长。由于分析技术的缺乏,大量视觉数据成为“沉睡”在存储系统中的无用垃圾数据。为提高海量图像和视频的有用性,迫切需要研究图像与视频数据自动化分析与理解技术。自2012年以来深度学习极大推动了计算机视觉的发展,让许多视觉技术逐渐走向应用。然而现有方法往往只能针对简单化、低层次的视觉理解任务取得较好的效果,这极大限制
卡特利链霉菌(Streptomyces cattleya)是研究硫霉素和含氟化合物生物合成的模式细菌。利用脉冲场凝胶电泳,发现卡特利链霉菌DSM46488可能包含两个巨型的线性复制子(>1.6 Mb)。这种两个巨型复制子的结构在链霉菌基因组中罕见。本论文利用基因组学、生物信息学和分子遗传学等方法来验证这两个新颖的复制子,重点研究巨型线性质粒的复制机制,以探讨两个复制子的进化关系。首先,本论文通过基
背景和目的:高病毒载量和瀑布样炎症反应是重症甲型H1N1流感病毒感染患者死亡的重要原因。缺氧诱导因子-1(HIF-1)是细胞适应缺氧环境重要的转录因子,可被多种病原体感染激活,在病原体致病过程中发挥不同的作用。而HIF-1信号通路是否参与甲型流感病毒的致病过程目前仍不清楚。本研究通过探讨甲型H1N1流感病毒对HIF-1信号通路的影响及其具体机制,以及HIF-1在甲型H1N1流感病毒感染中的作用,为
代数组合是组合学的一个重要分支,主要研究包括强正则图、结合方案、以及编码与设计等具有高度对称性和丰富代数结构的组合对象。编码与设计不但与有限群表示论和有限几何有着深刻的联系,而且在网络理论和密码学领域也有重要应用。作为有限传递置换群的组合推广,结合方案为编码理论与设计理论的研究提供统一的研究方法。设计理论的目的在于寻找一个性质较好的子集接近全空间。本文主要从Delsarte理论的角度研究Hammi
随着云计算、大数据、人工智能、虚拟现实等技术的飞速发展,短视频、直播、信息流等新互联网业务的不断升级更新,全球通信网络的容量需求呈爆发式增长。作为现代通信网络的重要支柱,下一代光纤通信网络面临更高带宽、更高速率和更大容量的需求。灵活光网络(Flexible Optical Networks,FON)以其带宽分配灵活、调制方式多样、距离自适应等优势有较大的通信容量和通信速率,并具有高效的频谱资源率,
腔光力学是微米光学腔和宏观力学相结合的产物,是一门快速发展的物理交叉领域学科,目前已成为国际研究的前沿热点课题之一。其中光学腔模与机械振子之间的相互作用是由光子的辐射压力实现的。随着纳米技术的不断进步,机械振子的尺寸已经达到微米甚至纳米尺度。最近等离子体腔与分子振子间的耦合成为热点,这意味着机械振子可以达到更小的级别。纳米机械振子通常具有较小的质量,较高的共振频率,较低的耗散,因此,光力学系统在高
在粒子物理中,重味强子弱衰变是精确检验标准模型、理解CP破坏乃至寻找新物理的一个理想平台。在不同的重味强子弱衰变中,半轻的树图弱衰变可以被用来精确测量CKM矩阵元,而底味强子的味道改变中性流过程则可以用来探寻新物理效应。通过理论和实验上对衰变分支比、衰变末态粒子的角分布、前反对称性、极化或自旋等物理量的计算和测量,人们可以定量地确定实验结果和标准模型预言的偏离程度,并根据这一偏离给出对新物理存在范
自啁啾脉冲放大(CPA)和光参量啁啾脉冲放大(OPCPA)方案诞生以来,超短超强激光取得了快速发展。与采用激光放大的CPA相比,OPCPA采用光参量放大(OPA),在单程增益和增益带宽方面更具优势。基于OPCPA方案,目前已经产生了峰值功率超过拍瓦、脉冲宽度短至光振荡周期量级的超短超强激光脉冲,在超快科学和强场物理等研究领域具有重要的应用价值。宽带位相匹配是OPCPA的最核心要素,它要求位相匹配条
DNA磷硫酰化(PT)修饰是DNA骨架磷原子上非桥接的氧原子取代为硫的修饰,这是首次发现的位于DNA骨架上的生理修饰,也是首次在DNA中发现硫元素。细菌中的DNA磷硫酰化生理修饰由DndA-E组成的蛋白复合体负责完成,各个蛋白的功能已经得到了研究,但是修饰过程的生化机制依然不清楚。此外,高通量测序技术揭示了磷硫酰化修饰在基因组DNA上的分布规律,但是基因组上各个位点的修饰频率还不清楚。为此,本论文
Dimethyl suifide(DMS)是表层海水中一类易挥发、具“反温室效应”的有机硫化物,主要经生物氧化过程形成Dimethyl sulfoxide(DMSO)而从海洋环境中移除,从而减少DMS向大气环境的释放。尽管前期已发现DMS以DMSO的形式大量储存于深海环境,但对于该环境下DMSO的生物地球化学循环机制并不清楚。Shewanella属细菌广泛存在于海洋及淡水环境,并且是深海中最为丰富