蜂集设置采集分页列表方法

更新于 2021年3月21日 说明书

蜂集采集器可以采集任意结构的网页,包括分页列表。然而蜂集采集列表的方式和大多数的采集器并不一样,因此这里写一篇教程教大家如何去采集带有分页的列表页,希望本教程对你有帮助。

以网址 http://www.xuexiezuowen.com/zuowen/gaozhong/gaoyi 为例,该网页下面有翻页导航,如下图:

想要将这个分类下面的所有的文章都采集过来,必须要采集每一个分页。蜂集采集器没有显示的翻页功能,但它的链接发现机制却能完美实现自动翻页的功能。

在规则编辑器的列表规则中可以写规则对页面上的链接进行匹配过滤,翻页的实现就是靠这些规则。

首先我们需要找到分页链接和其他链接不一样的地方,例子中的分页的链接都有“page”这个单词而其他的链接都没有这个单词,那么我们在列表规则中的链接包含框填上“page”,这样就可以采集到所有的翻页链接,如下图:

填写完了之后,我们将测试的链接填入到文章测试地址中进行测试抓取,结果如下图:

可以发现,我们已经完美匹配到了分页链接。

接下来还需要匹配文章列表。我们再次分析列表链接的特征,所有的列表中都包含“html”,因此在网址包含中再加上html即可。由于page和html是或的关系,也就是说整个页面的链接如果含有page或者html,那么就采集入库。所以网址包含需要填上page||html(“||”表示“或”)如图所示:

再次测试如下:

测试结果显示我们采集到了文章列表和翻页地址。

当采集器抓取到 http://www.xuexiezuowen.com/zuowen/gaozhong/gaoyi/page/2 这个页面的时候,会应用同样的规则获取到分页地址,这样就能获取到后面的翻页链接,直到获取所有的翻页链接。

好看 (0) 很好看 (0) 非常好看 (0)
赞赏

微信赞赏支付宝赞赏