主题网络蜘蛛的研究与实现

《主题网络蜘蛛的研究与实现》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、北京工业大学硕士学位论文主题网络蜘蛛的研究与实现姓名：孙旭申请学位级别：硕士专业：计算机应用技术指导教师：蔡永泉20090401摘要伴随着因特网技术的快速发展，因特网上的信息资源以惊人的速度不断增长。在对这些海量的信息进行检索的过程中，传统的Web搜索引擎越来越无法满足人们的需要。在这种情况下，各类主题搜索引擎应运而生，成为研究的热点。而作为主题搜索引擎重要组成部分，网络蜘蛛的搜索算法问题的研究具有极其重要的意义。本文从机器学习的理论角度出发，围绕如何提高网络蜘蛛的资源采集效率问题，采用了机器学习中的增强学习(Reinfor

2、cementLearning)方法，对主题搜索引擎网络蜘蛛的搜索算法进行了深入的研究。本文首先介绍了增强学习的基本概念和网络蜘蛛搜索策略的研究进展，在分析和比较现有专业搜索引擎网络蜘蛛搜索策略的特点和优缺点的基础上，归纳了提高搜索效率的几个关键因素。文中针对提高网络蜘蛛的学习效率问题展开研究，提出了一种基于经验偏向信息学习机制的增强学习模型。主要思想是，通过学习环境状态中的经验偏向信息，动态调整增强学习代理体的搜索策略，以减小搜索空间，提高学习效率。在此基础上，本文提出了一种基于经验偏向信息学习机制的主题网络蜘蛛学习算法，实

3、验表明，该算法可以明显提高主题网络蜘蛛的学习效率。针对传统的主题网络蜘蛛存在链接价值评价标准单一的问题，本文提出了一种基于增强学习的启发式主题网络蜘蛛模型，新模型将立即回报价值和未来回报价值结合，用于计算链接的综合回报价值。为解决对立即回报价值和未来回报价值信任度的权衡问题，本文引入了价值置信函数的概念，提出了对于未来回报置信度递减的启发式搜索算法，该算法的主要思想是将两类评价标准的优势相结合，以提高整体的搜索效率。针对于实际环境的搜索测试表明，新算法在性能上优于传统的主题网络蜘蛛搜索算法。最后，将提出的算法和技术相结合，实

4、现了一个基于增强学习的对计算机相关论文进行搜索的主题搜索引擎网络蜘蛛的系统原型。关键词主题网络蜘蛛；搜索引擎；增强学习AbstractWiththerapiddevelopmentoftheintemet，quantityoftheinformationisincreasinginallincredibleway．111etraditionalWebsearchenginesarebecomingmoreandmoreincapabletohandlethevariableneedsofpeopletoindextheinf

5、ormation．UnderthissituationtheTopic—SpecificSearchEnginescallleup．ResearchonfindingefficientsearchingstrategiesplaysanessentialroleintheapplicationandtheprogressoftheTopic—SpecificSearchEngines．Intheperspectiveoftheapplicationofthereinforcementlearningonwebspiders，

6、thispapermainlyfocusesontheworkoffindingefficientsearchingstrategies．111econceptofreinforcementlearningandtherecentresearchesonsearchingstrategiesofW曲spidersarefirstintroduced．Basedontheanalysesofthecharacteristicofeachspideranditsadvantageanddisadvantage，thePapers

7、unlsupthekeystoimprovingtheefficiencyofW曲spiders．Wimtheviewofreducingthetimeconsumptionandcomplexityofstatespace，thepaperaimsatimprovingthestudyingefficiencyoftheWebspiderbasedonreinforcementlearning．Anewreinforcementlearningalgorithmbasedonexperiencesbiasinginform

8、ationlearningisproposed．Themainideaofthisalgorithmistotakeadvantageofsomeusefulstatefeaturestoexploremoreeffectively．Asaresult，theefficiencyofstu