【摘 要】
:
随着网络在世界范围内的飞速发展,互联网作为最具潜力与活力的新兴媒体已被公认为是继报纸、广播、电视之后的“第四媒体”,成为反映社会新闻热点的重要载体。为了及时了解网
论文部分内容阅读
随着网络在世界范围内的飞速发展,互联网作为最具潜力与活力的新兴媒体已被公认为是继报纸、广播、电视之后的“第四媒体”,成为反映社会新闻热点的重要载体。为了及时了解网络新闻热点,尤其是与教育主题相关的新闻热点和发展动向,相关机构引入了教育领域专用新闻热点分析系统。本文设计与实现的网络主题爬虫系统是新闻热点分析系统中的数据源,负责教育领域内新闻信息的采集。传统的网络爬虫为搜索引擎服务,但无法满足指定主题的应用需要,主题爬虫则是有选择性地爬取主题相关的网页。本文深入研究了主题爬虫的特点、工作流程和体系架构,提出了一种面向教育新闻的爬虫系统总体架构设计,并在此基础上设计了爬虫系统的各个模块。本文借助爬虫领域的相关技术和工具,结合新闻热点分析系统的需求,从原理或工作流程上详细论述了爬虫系统中核心模块的具体实现。论文所做的工作主要包括:首先,针对重点关注主要站点的问题,本文设计了一种基于权重模型的爬取策略。其次,为了提高超链接抽取效率,本文采取了基于XPath的超链接精确抽取策略。最后,针对爬虫重复爬取的问题,本文设计了基于Berkeley DB的避免重复爬取策略。本文通过对爬虫系统运行结果的分析,表明爬虫系统能够稳定地运行,持续为新闻热点分析系统提供数据。爬虫系统满足设计需求,取得了令人满意的效果,论文中基于XPath的超链接抽取策略和基于Berkeley DB的避免重复爬取策略对于主题爬虫的实现具有实际的借鉴意义。
其他文献
随着网络和多媒体技术的飞速发展,多媒体内容的保护成为迫切需要解决的问题。数字水印作为信息安全的一个重要手段,较好地弥补了传统加密和数字签名的弊端,在信息安全领域具
湿地是地球上一类独特的生态系统,具有很高的生态、经济和社会价值。它不仅为人类提供大量食物、原料和水资源,而且在维持生态平衡、保持生物多样性和珍稀物种资源以及涵养水
光场相机在近些年来得到了快速的发展,很多基于光场成像理论的光学设备相继出现,这使得光场成像技术的研究越来越受到重视。光场相机的一个重要特点是在探测器前面插入了微透镜
无线Mesh网络是新一代无线网络中最具潜力取代现有有线网络的成员。但是,目前无线Mesh网络的网络吞吐量还远远达不到市场的需求,其根本原因在于现有的这种单信道无线Mesh网络
低密度奇偶校验码(Low Density Parity Check Code,LDPC)是一种基于稀疏校验矩阵的线性分组码。作为一种信道编码,它的误码性能逼近香农限,具有更好的纠错性能,结构灵活,译码复杂度
除信道环境和终端性能外,无线资源管理也是影响TD-HSUPA系统性能的重要因素。该技术包括功率控制、切换控制、负载控制、呼叫接纳控制、分组调度和移动性管理等。其中,功率控制
脑-机接口技术[1](Brain-Computer Interfaces,BCI)作为近几年来发展迅速的人机交互技术,它的特点是不依赖于肌肉、大脑外周神经、骨骼等人体正常的输出形式,直接由大脑信号
软交换技术是下一代通信网络解决方案的焦点之一,已经被大量应用于现有的商用通信网络中。H.248协议和SIP协议同为软交换网络的两大核心协议,已成为电信领域的研究热点。H.248
随着移动通信技术的不断发展和成熟,集群通信也向着业务宽带化和业务定制化的趋势发展。我国具有自主知识产权的TD-SCDMA移动通信系统既有快速、高效的接入方式,还可以灵活承载