万兆主干网数据采集与预处理关键技术研究

来源 :中国科学院计算技术研究所 | 被引量 : 0次 | 上传用户:itartan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
网络链路数据是所有网络研究的基础,通过采集和分析互联网数据,可以了解网络运行状态、网络负载情况、网络安全状况以及用户行为模式等信息。随着主干网链路速率由1000Mbps提升到10Gbps,链路速度的增长已经远远超过了服务器处理性能的增长,带宽增长与节点处理能力间的差距越来越大。万兆网络环境下,数据采集与处理面临着超高速海量数据的挑战。   本论文依托课题组承担的973项目“下一代网络存储的高速通道”,研究了万兆主干网链路下的数据采集与处理技术。通过对数据采集与处理进行硬件加速,提升了现有网络应用系统对万兆链路的处理能力。本论文的研究工作已经取得了以下一些有意义的成果:   1.提出了一种针对万兆主干网链路数据采集与处理的分布式结构,该结构利用并行处理技术将接入的主干网POS(Packet over SONET)流量划分成多个子流量,通过以太网将子流量分发到系统的服务器集群并行分析处理;设计了整个结构的核心部件:分布式预处理硬件平台。该平台负责完成对主干网链路流量的分类、过滤以及负载均衡功能。经过网络测试仪的压力测试以及实际链路的应用,均证明了系统的实用性;   2.针对现有多核平台处理能力提升较快的特点,提出了一种面向万兆主干网链路数据采集与处理的集中式结构,该结构充分利用了多核平台的并行处理能力,将接入的主干网POS流量划分成多个子流量,划分后的子流量通过多核平台PCIe高速通道分发到多个核上并行处理;设计了负责流量接入与分发的集中式预处理硬件平台,该平台完成与分布式预处理平台类似的功能。整个系统同样通过了测试与验证;   3.研究了万兆链路下高速包分类技术,设计了一个高速包分类引擎,该引擎与现有解决方案相比由于对分类规则进行了切割及并行化,删除了规则中的冗余部分,因而占用更少的TCAM(Ternary Content Addressable Memory)资源、具有更低的功耗。基于研究成果1、2的硬件平台实现了包分类引擎并验证了其有效性;   4.研究了万兆链路下并行优化技术,设计了一个面向并行优化的负载均衡算法,该算法可根据处理单元负载能力动态调整负载分配,且能尽量保持会话完整性,具有较广的应用前景。基于研究成果1的硬件平台实现了该算法,利用其完成万兆流量向多个千兆子流量的分发。基于实际链路数据的仿真结果以及实际测试结果都验证了算法的有效性;利用该算法设计了针对现有主流多核架构系统的优化,基于研究成果2的硬件平台实现了优化设计,实验结果表明可极大提高多核架构的处理能力;   5.提出并实现了一种软硬件相结合达到高精度时钟同步的新方法,该方法利用可编程逻辑器件(FPGA,Field Programmable Gate Array),设计了时钟生成电路以及时钟同步算法,基于研究成果2的硬件平台对该方法进行验证,实验测试表明,在不使用GPS的情况下,可以使同步节点时钟误差不超过100纳秒。
其他文献
近年来,随着网络技术和大规模存储设备的发展,诞生了一门新的数据密集型的应用领域:数据流。在数据流中,数据呈现大量、连续到来的特点,因此从数据流中挖掘潜在的知识变得更加困难
学位
扫描设计是一种广泛应用于数字集成电路中的可测试性设计。扫描触发器及其相关电路所占面积可达到芯片总面积的30%以上[GV01][YCDR08]。根据制造过程中的缺陷聚簇特性[KK98],当
下一代网络将是一种可以提供话音、数据和多媒体等各种融合业务的综合性的开放网络,其架构是基础网络、业务网络的两层架构。基础网络IP化、业务网络IT化趋势十分明显。业务网
随着集成电路工艺尺寸不断缩小、电路设计规模不断变大,高性能多核通用处理器正面临着高可靠性、高质量、低成本、低功耗等日益严峻的挑战,为了降低处理器芯片的测试难度,减少测
近几十年来,互联网以及多媒体网络的飞速发展,为人们传输如图片等各种多媒体资料提供了便捷的服务,加上人类至少有80%以上的外界信息经视觉获得。因此,数字图像等各种多媒体资
方向关系经常作为空间数据库查询的选取条件。基于观察者方位的方向关系在多媒体数据库、人工智能、虚拟现实、城市导游等领域都起着非常重要的作用,但是基于观察者方位的方
复杂命名实体指那些指代对象具体、字面特征不明显、与人们日常生活和休闲娱乐活动密切相关的实体名,比如电影名、餐馆名、大学名等等。复杂命名实体的识别不仅能够形成一种重
以数据为中心是业务流程管理领域中新的发展方向。业务流程中的业务数据称为Artifact。ArtiFlow是一种以Artifact为中心的业务流程逻辑模型。在面向Artifact业务流程管理问题
中科院等离子所超导电工中心基于ITER项目,需要对超导导体样品进行性能测试,本文研制了一套数据采集系统用于ITER超导磁体测试实验,负责电压、电流、温度等物理量的测量。  
随着信息化建设的不断发展,高校中各个部门也使用越来越多的信息系统进行办公。然而由于这些应用系统都是在不同时期采用不同技术开发的,系统间缺乏足够的信息交互,使得系统的信