一种主题知识自增长的聚焦网络爬虫

聚焦网络爬虫是各类因特网文本挖掘和信息检索应用必需的处理步骤。现有聚焦网络爬虫面临着知识描述困难、误差易被放大等挑战。发现网页中主题知识存在的若干性质，提出一种主题知识自增长的聚焦网络爬虫KAG-Crawler，在网页爬取过程中采用一种无监督的学习技术不断扩展主题知识，从而使爬虫在一个简单的初始主题描述条件下，能够以较高正确率爬取大量网页。同时为便于主题知识的扩展，还提出一种新的主题表示模型，并基于该模型构建了新的网页主题和U RL主题相关度方法。最后在真实环境下的实验表明，KAG-Crawler的性能显著高于传统基于文本相似度的聚焦网络爬虫。