随着计算机网络的迅猛发展,网络的安全问题也越来越引起人们的重视。防火墙作为一种有效的安全防护措施被广泛应用于各种类型的网络当中。但是传统的防火墙是根据一些事先规定好的过滤规则对网络的数据流进行过滤,这很难适应现代网络攻击技术综合化和复杂化的特点,并且随着过滤规则数目的不断增大,对于防火墙过滤规则的管理也变得越来越复杂,尤其是企业防火墙。因此,对动态、智能型防火墙的研究以及对于规则优化算法的研究也越来越重要。国内外对基于机器学习的智能防火墙已经有了比较深入的研究,但是基于专家系统的过滤规则学习还是一个新的领域。本文通过对专家系统的研究,提出了一个基于专家系统的规则学习方法,用于对网络数据包进行不确定推理从而产生新的过滤规则。这样,智能防火墙就既具有传统防火墙的功能,又能根据网络数据包和专家知识,动态生成过滤规则以抵挡新的非法访问。本文针对规则表的管理越来越复杂的问题,提出了两个规则优化算法用于提高规则表的管理效率。优化算法用来快速发现规则表中存在的异常以及潜在的问题,插入算法用来把规则插入到规则表中适当的位置。本文在Windows平台上实现了一个简单的防火墙系统。此系统具有传统防火墙的包过滤功能,而且此系统可以自动发现网络攻击和对过滤规则进行优化。最后,本文利用Ping to death、Land attack、Syn flood等典型的网络攻击对学习模块进行了验证,而且通过利用优化算法对典型的规则表进行处理。通过这些测试得知本文所提出的方法是正确、可行的。