人类可以同时实现目标的分割和识别,但这对于计算机视觉系统却是一个严峻的挑战。主要原因之一是目标的分割和识别分别处于图像抽象的底层和高层。如何有效结合底层的图像数据信息和高层信息是问题的关键所在。论文在深入分析国际上一些经典的变分图像分割算法的基础上,重点研究了基于形状先验的统计模型、信号稀疏表示理论和深度学习模型,并致力于利用先验形状／纹理信息同时解决目标分割与识别问题。论文的主要工作和创新之处在于：1.通过形状概率定义,提出一种基于先验形状缩减集密度估计的变分分割模型。该模型建立了一种先验形状表示与估计方法,只需用较少的训练形状可以提供与核密度估计相似的精确估计,并通过主成份分析法捕捉先验形状的主要变化。该模型有效克服了水平集方法中由于形状表示为符号距离函数和先验形状核密度估计等原因造成的分割结果不够精确、低效率等问题。2.通过形状稀疏表示方法,提出一种基于形状先验的、可同时实现分割和识别的变分模型。该方法将目标形状表示成有限维空间中训练形状的稀疏线性组合用于目标形状的估计与识别,并作为先验正则项集成至底层变分分割模型。该模型的目标函数是凸的而且可以应用于任意的先验形状训练库。通过扩展先验形状训练库的方法,所提出的模型可以处理多目标或目标重叠问题。3.基于形状概率定义和先验形状稀疏凸组合表示,提出一种同时实现分割和识别的变分模型。该方法保证任意先验形状的凸组合是一个有效的形状,可以应用于任意的先验形状训练集。该模型将先验形状凸组合作为先验形状约束项用于目标形状的估计与识别,并结合底层数据驱动项,可以支持目标全局形变和局部变形。在凸约束下,该模型所得到的最优解是自然稀疏的。4.结合先验形状和纹理稀疏凸组合方法,提出一种基于先验表面信息的、同时实现分割和识别的变分模型。该方法利用概率定义的方式定义形状和纹理,将先验形状和纹理构成表面先验信息,保证先验表面的任意凸组合还是表面。该模型结合先验形状和纹理信息可以有效提高分割效果。5.通过深度玻尔兹曼机对先验形状进行学习,提出一种变分分割模型。该方法利用深度学习方法来解决基于先验的形状表达和估计,可以有效地捕捉先验形状的全局和局部结构信息,并将之作为先验约束项集成至底层变分分割模型。该模型很适合多目标类分割,在分割过程中允许目标全局形变和局部变形,而且也支持任意形状训练集。