在数字图像编辑中,图像通常由图层构成,图层则用于分离和表示图像的不同部分。图层方便了对图像的操作,例如用户可以增加或删除图层,也可以对图层进行色调的变化、图层的替换等操作,方便实现图像的编辑。然而图像一旦栅格化后,图层就不复存在。在本论文中,图层被定义为颜色近似均质的图像段。论文针对颜色层分解技术进行研究,旨在将给定的图像分解为多个高质量的颜色图层,从而方便图像编辑。论文主要工作有:（1）针对分层优化目标函数,对比分析了四种稀疏正则化方法。图层分解是典型的病态问题,在求解上普遍具有不适定性。事实上,在高质量的图层分解结果中,每个像素点对应于各图层的alpha值往往是稀疏的。基于此先验知识,稀疏正则化是缩小可行解的范围或提升求解的稳定性的有效方法。本文在基础的颜色层分解的目标函数中添加了四种稀疏正则化项,通过该项可以约束目标函数的解,使其取值倾向于0或1,从而提高图层分解的效果。这四种稀疏正则化分别是:L1正则化、L2正则化、Levin正则化和YAGIZ正则化,论文之后给出了相应的求解方法。论文利用图像重着色数据集CIR对增加了稀疏正则化的图层分解方法进行了实验验证。实验结果表明,在稀疏效果中,加入了 Levin正则化的目标函数的alpha值稀疏效果最好,L1正则化次之,L2正则化相对较差,YAGIZ正则化最差;在图层内部和边界处,Levin正则化提取的图层内部颜色均质性最好且在边界处过度自然平滑,L1正则化次之,L2正则化相对较差,YAGIZ正则化最差。（2）实现了一种基于深度网络的分层方法。基于优化的图层分解方法通常需要大量的迭代计算,为了解决传统方法的效率问题,论文实现了一种基于U-Net和SPP-Net的图层分解方法。在现有基于U-Net的图层分解方法基础上,增加了空间金字塔池化模块,以有效聚合不同特征图区域的上下文信息,将编码信息经过空间金字塔池化处理,并融合至解码器。实验表明,论文所给出的基于U-Net和SPP-Net的图层分解方法,得到了较高质量的图层分解结果,且在图像重构度量上优于基于U-Net的图层分解方法,比传统方法也提高了运算的速度。