现代密码学理论和密码技术是信息安全领域的重要基础。在信息时代的今天,网络和通信技术的高速发展和广泛应用,越来越多的信息在网络上传输,信息的安全与保护问题显得愈发重要。通常使用传统的数学方法来解决密码学和信息安全中的问题难以获得较好的全局效果,近年来仿生智能优化算法已经在经典的NP-C等问题的求解和实际应用中表现出强大的生命力,并且具有较好的全局性能。本文深入研究了智能优化算法的理论与应用,构造出基于智能算法解决信息安全中的四个关键问题(分组密码、流密码、布尔函数、入侵检测)的模型,同时对这些模型的理论基础、实践应用、收敛性等进行了深入和系统的分析,最后通过仿真实验对这些模型效果和性能进行深入的分析、验证与比较。具体的创新性工作包括如下几个方面:1、分别研究了基于蚁群算法,遗传算法及蚁群与遗传算法结合设计S盒的算法。基于遗传算法构造S盒,在染色体的编码方式上保证S盒是完全正交的,给出了“雪崩度”的定义以定量描述雪崩效应,可自适应地修正交叉概率与变异概率;基于蚁群算法构造S盒,提出了S盒的城市模型,设计出选路规则和信息素更新策略;提出遗传算法与蚁群算法相结合的设计思想构造S盒,获得的S盒在非线性度、差分均匀度和雪崩效应上都得到了较大的改善,较好的解决了传统的数学方法设计S盒的缺陷。2、分别研究基于遗传算法和细胞自动机优化设计序列密码的算法。综合应用遗传算法的选择、交叉和变异算子以及移位、异或和非等操作来设计序列密码。将细胞自动机与熵的理论应用与序列密码的设计,可以使得序列密码具有更好的抗攻击能力。3、通过分析布尔函数的Walsh-Hadamard变换、自相关性和雪崩效应等,提出并证明了布尔函数的两个优化规则,设计出“1+1爬山算法”和“两点爬山算法”可有效提高布尔函数的非线性度,同时降低布尔函数的自相关性。将遗传算法的多点搜索优点有机融入爬山算法,设计出“遗传爬山算法”,可更好的优化布尔函数的非线性度和自相关性。4、为弥补入侵防御系统不能及时发现未知入侵攻击的缺陷,提出基于遗传模糊连接的聚类算法,将模糊连接度推广到聚类算法中作,为聚类对象间相似性的度量工具,并将遗传算法用于初始聚类数目的确定及聚类后对种子的更新,使种子最具所属聚类的特征、更准确地标识聚类,将该算法应用于入侵防御系统的审计模块,验证、比较和分析该模型和算法的有效性和效率,效果较好。最后,对全文的研究工作进行了总结与分析,并对智能算法及其在信息安全中的研究进行展望。