随着计算机技术的快速发展,医学影像在现代临床疾病诊断和辅助治疗中得到广泛应用。非刚性医学图像配准技术能准确描述图像之间的空间对应关系,在病理发展变化的监控跟踪、放射治疗方案的制定以及治疗效果的反馈评估等多个应用领域发挥着重要作用。本文首先基于传统B样条算法对非刚性医学图像配准进行研究,旨在提高多模态配准精度和鲁棒性,并在真实多模态脑图像上进行验证评估;然后对基于深度学习算法的非刚性医学图像配准任务进行研究,实现对图像的端到端的高效率配准。论文主要贡献如下:(1)针对传统B样条配准算法中的归一化互信息相似度测度,由于缺失自身空间结构信息而无法进行多模态图像配准的问题,提出一种将归一化互信息与空间信息相结合的相似度测度ALST-NMI(Adaptive Local Structure Tensor-Normalized Mutual Information)。该测度根据区域方差自适应选取局部结构张量参数,进而根据每个像素点的局部结构张量特征值,定义不同空间结构区域贡献权值大小,并将其与离散归一化互信息相结合。实验结果表明,ALST-NMI明显提高了单模态和多模态图像的配准精度及鲁棒性,并降低了优化算法在配准过程中陷入局部极值的风险。(2)针对深度神经网络模型在训练过程中易出现退化以及卷积核检测范围受限的问题,提出一种基于改进的多尺度残差结构的全卷积网络模型—MS_ResFCN(Multi-scale residual full convolutional network)。该模型在深度FCN模型中引入残差结构保证模型有效平稳的训练,同时在残差层内构造分级多尺度卷积核,能够同时提取并融合图像的局部纹理信息和上下文信息,从而产生多种类型的特征,在一定程度上改善了配准网络的非线性映射能力。实验表明MS_Res FCN模型有效消除了深度网络在训练过程中出现的退化现象,提高了配准精度。