随着荧光探针靶向技术和光学成像技术的快速发展,小动物在体荧光三维成像已经成为研究活体内分子事件的主要手段,在新药研发、肿瘤疗效评估等方面有广泛的应用前景。在体荧光三维成像是基于小动物体表测量数据和组织内部光学结构信息逆向重建出在体荧光光源三维空间分布的技术。有限的体表荧光信息加上复杂的生物组织内部光子传输过程导致了在体荧光光源逆向重建过程严重的欠定性,如何提高在体荧光光源的三维重建精度是本文研究的重要内容。本文主要工作如下:（1）基于压缩感知理论研究了逆向重建问题的数学优化模型,提出了能更好凸显在体荧光光源稀疏特性的L_p（0<p<1）正则化优化模型。（2）针对三维荧光成像前向系数矩阵列向量间的高度相干性,提出了基于QR分解的系数矩阵正交变换方法,可有效提高成像精度。（3）针对基于L₂正则化优化模型带来的过度平滑问题和基于L₁正则化优化模型带来的非最优稀疏解问题,提出了基于L_1/2正则化的逆向重建优化模型,并通过L_1/2阈值算法进行迭代求解。双光源数值仿真实验验证了算法的有效性。（4）L_p（0<p<1）正则化问题是一个非凸优化问题,当测量值数量很少时,会陷入局部最优问题。本文提出了基于联合代数重建技术的L₁与L_p（0<p<1）交替迭代算法进行在体荧光光源的逆向重建,以期得到全局最优解。尼龙仿体实验验证了算法的有效性。（5）针对实验过程中老鼠易产生形变、重建精度低等问题,对课题组前期搭建的小动物光学成像系统进行改进,重新设计和搭建了一套小动物在体荧光三维成像系统。小鼠在体荧光实验验证了成像系统的有效性、稳定性和鲁棒性。本文研究的基于压缩感知理论的小动物在体荧光三维成像系统可有效降低逆向重建过程中的欠定性,提高成像质量。