图像复原旨在从各种退化图像中恢复出清晰图像。近年来,基于模型优化的方法在图像复原方面有了一定的研究,并推动了视觉领域的发展。现有方法仅仅通过借助先验知识帮助单一目标函数刻画图像分布。由于图像数据分布的多样性,单一的目标函数难以描述多种领域知识。而且,求解过程中不可避免的超参数问题,往往影响一个算法或网络的稳定性和泛化能力,给图像复原任务增加了更高的难度。针对这些问题,本文引入了双层优化框架,设计了一系列基于能量的隐式约束结构,提出了稳定且具有收敛性的算法框架,解决了模型设计和超参优化中存在的问题,并在图像复原任务上得到验证。本文主要研究内容如下:1.基于数据驱动的双层先验框架。针对图像去雨任务现有模型优化方法不能兼顾背景细节和雨线的问题,受双层模型的启发,构造一种灵活的能量函数刻画可行约束,设计了一种基于学习的双层先验模型及稳定的数据驱动算法框架。具体来说,该模型将基于能量极小化的隐式稀疏约束引入优化模型中,把背景和雨线相关的领域知识作为可行约束,以便辅助目标函数研究图像去雨问题。双层先验模型提供了一种目标函数与约束能量协作的机制,同时兼顾背景细节和雨线信息,从而研究图像去雨问题。此外,约束子问题是一个灵活的部分,可以根据稀疏、低秩等任务特征设计不同的能量约束。不同数据库上的定性定量实验验证了所提双层先验结构在图像去雨任务上的有效性。2.基于可行约束的非凸图像建模研究。针对图像复原任务中的优化模型难以描述多种领域知识以及现有方法难以构造稳定算法框架的问题,通过对非凸任务的可行约束进行研究,提出具有收敛性保障的统一任务驱动新框架,从约束角度研究与任务相关的信息。具体来说,通过引入基于能量的约束模型作为问题约束,为最大后验概率推理模型建立了一种单变量的双层结构,并设计了任务驱动的算法框架（TLF）,利用丰富的任务信息帮助缩小优化过程的解空间。该框架还可以引入数据驱动模块,进一步集成训练数据。在理论上,证明了所提出的TLF及其数据驱动的扩展框架（DTLF）都可以收敛到目标函数的临近点。丰富的实验结果验证了所提方法在不同图像复原任务上的有效性。3.基于一阶优化的双层优化算法框架。针对求解过程中的超参优化及模型的泛化能力问题,设计一般形式的双层优化模型,并构造了一种通用且灵活的双层下降聚合算法框架（BDA）,以模块化的方式处理双层优化问题,进而解决超参优化问题。现有的基于一阶优化的双层方法需要满足下层子问题解集单点的假设,而BDA从乐观双层优化的角度出发,提出一种新的分层优化方案,其中包括针对上层变量的单层优化形式和针对下层变量的双层优化形式。从理论上讲,本文提出了一种通用的证明方法来分析这些双层一阶方法的收敛行为,证明了在没有下层单点条件限制的情况下,可以严格保证BDA的收敛。在应用上,所提方法在图像修复的应用中取得了一定的效果,并具有泛化能力。