论文部分内容阅读
网络链路数据是所有网络研究的基础,通过采集和分析互联网数据,可以了解网络运行状态、网络负载情况、网络安全状况以及用户行为模式等信息。随着主干网链路速率由1000Mbps提升到10Gbps,链路速度的增长已经远远超过了服务器处理性能的增长,带宽增长与节点处理能力间的差距越来越大。万兆网络环境下,数据采集与处理面临着超高速海量数据的挑战。
本论文依托课题组承担的973项目“下一代网络存储的高速通道”,研究了万兆主干网链路下的数据采集与处理技术。通过对数据采集与处理进行硬件加速,提升了现有网络应用系统对万兆链路的处理能力。本论文的研究工作已经取得了以下一些有意义的成果:
1.提出了一种针对万兆主干网链路数据采集与处理的分布式结构,该结构利用并行处理技术将接入的主干网POS(Packet over SONET)流量划分成多个子流量,通过以太网将子流量分发到系统的服务器集群并行分析处理;设计了整个结构的核心部件:分布式预处理硬件平台。该平台负责完成对主干网链路流量的分类、过滤以及负载均衡功能。经过网络测试仪的压力测试以及实际链路的应用,均证明了系统的实用性;
2.针对现有多核平台处理能力提升较快的特点,提出了一种面向万兆主干网链路数据采集与处理的集中式结构,该结构充分利用了多核平台的并行处理能力,将接入的主干网POS流量划分成多个子流量,划分后的子流量通过多核平台PCIe高速通道分发到多个核上并行处理;设计了负责流量接入与分发的集中式预处理硬件平台,该平台完成与分布式预处理平台类似的功能。整个系统同样通过了测试与验证;
3.研究了万兆链路下高速包分类技术,设计了一个高速包分类引擎,该引擎与现有解决方案相比由于对分类规则进行了切割及并行化,删除了规则中的冗余部分,因而占用更少的TCAM(Ternary Content Addressable Memory)资源、具有更低的功耗。基于研究成果1、2的硬件平台实现了包分类引擎并验证了其有效性;
4.研究了万兆链路下并行优化技术,设计了一个面向并行优化的负载均衡算法,该算法可根据处理单元负载能力动态调整负载分配,且能尽量保持会话完整性,具有较广的应用前景。基于研究成果1的硬件平台实现了该算法,利用其完成万兆流量向多个千兆子流量的分发。基于实际链路数据的仿真结果以及实际测试结果都验证了算法的有效性;利用该算法设计了针对现有主流多核架构系统的优化,基于研究成果2的硬件平台实现了优化设计,实验结果表明可极大提高多核架构的处理能力;
5.提出并实现了一种软硬件相结合达到高精度时钟同步的新方法,该方法利用可编程逻辑器件(FPGA,Field Programmable Gate Array),设计了时钟生成电路以及时钟同步算法,基于研究成果2的硬件平台对该方法进行验证,实验测试表明,在不使用GPS的情况下,可以使同步节点时钟误差不超过100纳秒。