无线网络协议在给用户带来便捷的同时也显示出其本身存在的安全性漏洞,利用无线网络协议的这些漏洞就能够获得对网络和加密通信数据的未经授权的访问。在2017年,攻击者公布了一个WPA2协议的安全漏洞,通过一种名为Key Reinstallation Attack（KRAK）的攻击重置加密算法所需要用到的密钥及随机数,导致WPA2协议在使用AES算法加密时相同的密钥和随机数被多次使用,使得攻击者能够解密密文。KRAK攻击证明设计者在设计加密算法和协议时对密钥安全行为的忽视,因此,需要对无线信道协议中的密钥安全行为进行研究。首先,本文提出了AES算法的改进方法,通过设计密钥编排算法降低轮密钥之间的关联性。在不影响算法执行效率的前提下,通过引入混沌随机序列和新的轮常量表对原始的算法进行改进,为降低密钥字的相关性分别设计两种密钥编排方法,分别解决了原算法在第一轮和第二轮轮密钥字相关性较强的问题,最后结合改进的轮函数得到新的加密方法。其次,本文提出了一种对AES算法的不可能差分故障攻击方法。通过研究不可能差分分析的原理设计一种3轮不可能差分区分器,基于该区分器设计一种6轮不可能差分分析路径,最后基于单字节随机故障诱导模型提出一种对AES算法的低轮不可能差分故障攻击方法。该方法使用差分故障攻击中产生的全错密钥筛除在不可能差分路径上的错误密钥,进而实现对AES算法的低轮不可能差分分析,该方法对原有的密钥编排算法构成了较大威胁。实验部分包括三部分:第一部分是密钥编排方法的轮密钥生成测试,以验证其安全性;第二部分是加密算法的效率与安全性测试,测试改进算法在不同方式下加密和解密的执行效率和随机性,并与原算法对比以确定其实际有效性;第三部分是差分故障攻击实验中不同的错误密文对数量和攻击次数对产生的错误密钥候选量的影响及概率是否与理论分析一致,以验证攻击方法的理论正确性。实验结果表明:在最好的情况下,本文提出的密钥编排方法产生的轮密钥在第一轮就已经具备原始算法在第三轮才能具备的相关性较弱的特征,算法的执行效率与原算法基本一致,随机性测试结果表明本算法产生的密文序列具有较好的随机性能,证明本算法具有较高的安全性能和可行性;同时通过故障攻击实验得到了与理论分析相同的结果,验证了本文提出的攻击方法的正确性。