利用信号处理技术来进行图像超分辨率重建成为目前图像处理领域的研究热点。本文系统综述了目前图像超分辨率技术的研究现状以及应用前景,并对常用的基于样本学习的学习模型进行简要概括,在介绍Tetrolet基本变换过程的基础上,着重从理论和实验上分析了Tetrolet变换系数的条件概率分布、联合概率分布和隐马尔科夫树的统计模型。进而结合相关理论知识以及大量的实验分析,探索了Tetrolet变换在图像去噪,基于Tetrolet稀疏正则化和样本学习的超分辨率重建算法中的应用。本文的主要工作如下：第一、介绍了Tetrolet理论与构造方法的基础上,建立了Tetrolet系数的广义高斯分布的拟合模型,边缘概率分布和联合概率分布模型。数值试验结果表明Tetrolet变换具有较好的稀疏性。第二、依据Tetrolet变换的稀疏表示特性,以及信号和噪声在Tetrolet变换域的不同分布特性,进行阈值收缩图像去噪,然后结合各向异性全变差(ATV)的特性,设计了一个联合Tetrolet变换和ATV的图像去噪算法。实验结果表明该算法能有效地抑制阈值收缩过程产生的pseudo-Gibbs现象。第三、重点研究了基于全变差(TV)正则化的图像超分辨率重建模型,然后根据Tetrolet变换的稀疏表示特性,给出了联合Tetrolet稀疏性和全变差的复合正则化图像超分辨率重建模型,设计了针对该复合正则化重建模型最优化问题求解的前向后向分裂算法。实验结果表明该复合正则化模型能够有效的保持图像的边缘和纹理。第四、设计了一种基于Tetrolet稀疏正则化预优与样本学习的图像超分辨率两阶段算法,该算法通过Tetrolet稀疏正则化估计初始高分辨率图像,然后利用基于图像库Tetrolet学习的方法进一步融合了细节信息。进一步为了降低Tetrolet系数学习的复杂度,本文提出了系数学习的快速搜索策略。实验结果验证了两阶段算法的有效性。