随着互联网技术的快速发展以及手机的普及,图像信息的安全性逐渐成为人们关注的重点。混沌系统具有初值敏感性、遍历性、复杂动力学行为等特征,被广泛运用以提高图像加密算法的安全性。离散分数阶混沌系统不仅仅具有离散整数阶混沌系统和连续分数阶混沌系统的优点,而且混沌行为参数选择范围更大,动力学行为也更为复杂,更加适合应用于图像加密。本文研究了几类离散分数阶混沌系统的动力学行为及其在图像加密方面的应用,并取得以下成果:建立了一种新的基于Caputo定义的三维离散分数阶Hopfield混沌神经网络模型。通过相图、分岔图、李雅普诺夫指数等数值方法研究了该神经网络的混沌行为。基于离散分数阶线性系统的稳定性定理,设计了实现该类神经网络系统同步的控制律。设计了一种基于该类混沌神经网络的图像加密算法,进行了多种安全性分析,并将指标和基于整数阶混沌系统的加密算法进行了对比,结果表明基于该类离散混沌神经网络的图像加密算法具有较高的安全性能。设计了一种新的基于DNA技术和离散分数阶混沌系统的彩色图像加密算法。建立了一类新的离散分数阶Hopfield神经网络模型,并将其作为加密算法的伪随机数生成器。通过相图、分岔图、0-1测试分析了该类神经网络的混沌动力学行为。神经网络的初值由用户输入的五位密钥以及明文图像通过SHA-2函数得到的哈希值计算确定,保证了算法具有较大密钥空间的同时,算法的明文敏感性也得到了提高。提出了一种新的三维投影置乱方法,可以很好的置乱彩色图像三个色彩通道之中的像素。实验结果和安全性分析表明该算法具有具有较好的安全性能,可以抵御多种典型的攻击。提出了新的离散分数阶Henon映射模型,通过相图、分岔图、0-1测试等方法分析了系统的动力学行为,并基于该系统设计了双彩色图像加密算法。提出了一种魔方变化方法,可以使得该算法在一个加密流程中同时加密两张图像,通过将图像信息均匀的分布到两张密文图像中,可以更好的抵御剪切攻击。除系统阶次和离散步长外,还引入系统参数作为算法的密钥,大大扩展了算法的密钥空间。为进一步提升算法的安全性,利用离散分数阶Logistic映射的Cat变换置乱了各个信号通道中的像素位置。仿真实验和安全性分析证明了该加密算法良好的安全性能,能够满足大部分情况下的加密要求。