分组密码设计技术能够为数据传输提供保密功能良好的加密算法,最具代表性的就是被选作AES的Rijndael算法。密码分析技术能对分组密码的安全性进行理论和实践的论证,代数攻击方法是分组密码的有效攻击方法之一,这种密码分析方法是将密码算法归约成多元高次方程组,并通过代数算法恢复密钥变量和明文。首先,介绍了Rijndael算法的设计原理和求解大型多元多项式方程组问题的研究进展,特别是近几年来有关于求解超定多元方程组取得的一系列新成果,对Relinearization算法和XL算法的基本思想以及针对不同GF(k)(k＞2)域,GF(2)域,GF(2~n)域下的改进版本进行了系统阐述。然后,研究了针对XSL密码的XSL攻击方法,分析了算法复杂度。引入BES密码,给出了GF(2~8)下的XSL攻击方法,分析了算法复杂度,并给出了代数脆弱性度量,指出求逆S盒的大小与抗代数攻击的关系。最后,详细研究了Grobner基理论,Buchberger算法及其基于Buchbeger准则的改进Buchberger算法,与Rijndael算法的多变量二次方程组表示方法结合提出了一种基于Grobner基的代数攻击方法,采用一种项序转换算法FGML将次数反字典序转化为字典序,并通过精心设计的项序和方程组解的判定有效降低了攻击复杂度。该算法能够在已知少量明密文对的情况下对密钥进行求解。本文对算法的复杂度进行了分析。引入F4算法,描述了Grobner基与XL算法的关系,XL算法可以表示为一种冗余版本的F4算法。