蜂集设置采集分页列表方法
蜂集采集器可以采集任意结构的网页,包括分页列表。然而蜂集采集列表的方式和大多数的采集器并不一样,因此这里写一篇教程教大家如何去采集带有分页的列表页,希望本教程对你有帮助。
以网址 http://www.xuexiezuowen.com/zuowen/gaozhong/gaoyi 为例,该网页下面有翻页导航,如下图:

想要将这个分类下面的所有的文章都采集过来,必须要采集每一个分页。蜂集采集器没有显示的翻页功能,但它的链接发现机制却能完美实现自动翻页的功能。
在规则编辑器的列表规则中可以写规则对页面上的链接进行匹配过滤,翻页的实现就是靠这些规则。
首先我们需要找到分页链接和其他链接不一样的地方,例子中的分页的链接都有“page”这个单词而其他的链接都没有这个单词,那么我们在列表规则中的链接包含框填上“page”,这样就可以采集到所有的翻页链接,如下图:

填写完了之后,我们将测试的链接填入到文章测试地址中进行测试抓取,结果如下图:

可以发现,我们已经完美匹配到了分页链接。
接下来还需要匹配文章列表。我们再次分析列表链接的特征,所有的列表中都包含“html”,因此在网址包含中再加上html即可。由于page和html是或的关系,也就是说整个页面的链接如果含有page或者html,那么就采集入库。所以网址包含需要填上page||html(“||”表示“或”)如图所示:

再次测试如下:

测试结果显示我们采集到了文章列表和翻页地址。
当采集器抓取到 http://www.xuexiezuowen.com/zuowen/gaozhong/gaoyi/page/2 这个页面的时候,会应用同样的规则获取到分页地址,这样就能获取到后面的翻页链接,直到获取所有的翻页链接。
你可能还喜欢下面这些文章

在本章中,我们将研究WordPress中的Reading Settings。 您可以设置要在主页上显示的帖子数。步骤(2) – 读取设置页面如下所示显示。Blog pages show at most(博客页面最多显示) – 每页或网站要

Other Comment Settings(其他评论设置) – 此设置有以下选项 – Before a comment appears(在发表评论之前) – 此设置允许您如何控制帖子。

现在你只需创建一个404错误页面,并且写入下列4行代码即可简单优雅的实现无插件完美支持windows iis主机的永久固定链接的伪静态化地址格式。这样即可固定REQUEST_URI和PATH_INFO参量并且包括进去index.php,剩下的

进入设置 -> 固定链接 进行设置。如果你正在使用某些主机面板,那么面板里面应该有比较方便的设置,以宝塔面板为例,点击网站右侧的设置,选择wordpress伪静态规则,如下图

在本章中,我们将了解WordPress中的Permalink settings。Custom Structure(自定义结构) – 它通过在给定文本框中输入所需的名称来设置您选择的网址结构。

这篇文章教你如何使用puretext这款百万文章不卡的主题。分类展示模块小工具设置项如下:左侧列表展示的是小工具中设置的左侧分类ID对应的分类。标签展示模块用来在首页展示标签,设置项如下: