快捷导航

翻页采集列表

2016-9-29 16:32| 发布者: ym| 查看: 25871| 评论: 26

摘要: 一、操作导航图采集具有一页以上的列表网页就要设置翻页,这样DS打数机才能自动翻页采数据。选取一个具有翻页的样本网址来做规则,就可以用这个规则来批量采集同类网址(包括一页或多页)。下面用大众点评网作为案例 ...

一、操作步骤(观看视频)

采集具有一页以上的列表网页就要设置翻页,这样DS打数机才能自动翻页采数据。选取一个具有翻页的样本网址来做规则,就可以用这个规则来批量采集同类网址(一页或多页都适用)。下面用大众点评网作为案例,操作步骤下:


二、案例规则+操作步骤

本案例是在上一篇文章《采集列表数据》的基础上,直接增加翻页设置,所以,前三步操作就不重复讲了,下面就直接讲第四步操作。

第四步:设置翻页

包括两个步骤:1. 设置翻页区     2. 设置翻页记号

4.1,设置翻页区

在当前页面,点击翻页区,发现整个翻页区变黄了,而且,在下面的DOM窗口,光标自动定位到了DIV节点,右击这个节点,选中翻页映射→作为翻页区→新建线索。


4.2,设置翻页记号

此时,工作台自动切换到了爬虫路线。不用理会。继续在当前网页,点击翻页按钮“下一页”。在下面的DOM区,光标自动定位到了A节点,点开A节点,寻找text节点,找到后,右击这个text节点,选中翻页映射→作为翻页记号。


第五步:存规则,抓数据

5.1,点击G浏览器上的“存规则“按钮,保存规则。点击浏览器上的“爬数据“按钮,或者到打数机,启动采集,在DS打数机里看翻页是否成功,翻页采集成功的话,在本地DataScraperWorks文件夹中会生成多个xml文件,详情见文章《查看数据结果》


Tips: 在实际的列表网页中,翻页区和翻页符号有各种各样的情形,如果碰到非本教程中的翻页符号,比如箭头,只有数字页码等,可以参阅《点击数字翻页》,《翻页符号是箭头》


上篇文章:《采集列表数据》                                                                             下篇文章:《层级网页采集》



若有疑问可以集搜客爬虫软件
16

鲜花
2

握手

雷人

路过
1

鸡蛋

刚表态过的朋友 (19 人)

相关阅读

发表评论

最新评论

评论 Fuller 2018-6-29 15:53
temprani: 问提描述:我要抓一个16页的数据,按照这个方法,抓完第16页后,又重新从低1页抓。反复注好多遍,不知道啥时候能停。怎么让他抓到16页就停下来呢? ...
又回到第一页这个问题要仔细查查,你把这个问题发到 使用交流 板块上,用个帖子,把主题名发出来,我们可以帮你诊断,也可以截图
评论 temprani 2018-6-29 11:07
问提描述:我要抓一个16页的数据,按照这个方法,抓完第16页后,又重新从低1页抓。反复注好多遍,不知道啥时候能停。怎么让他抓到16页就停下来呢?
评论 wangyong 2018-6-12 09:30
Oopeng: 如果翻页后,页面处在最低端,需要上拉滚动条才能回到页面最顶端,这种情况会影响数据采集吗?
规则名是什么?
评论 Oopeng 2018-6-11 23:13
如果翻页后,页面处在最低端,需要上拉滚动条才能回到页面最顶端,这种情况会影响数据采集吗?
评论 Fuller 2017-12-2 23:48
Alilililily:
如果想限制翻页测试,需要在会员中心的规则管理那里设置调度参数,调度参数里面有限制翻页次数,具体可以看这个帖子:http://www.gooseeker.com/doc/thread-10294-1-1.html
评论 Alilililily 2017-12-2 16:32
jiaguozhong: 怎么设置翻多少页啊
评论 umsung 2017-11-2 09:12
wekrior: 怎么停掉抓取。挺急的,在线等……
直接关掉爬虫窗口就行了
评论 wekrior 2017-11-1 22:36
怎么停掉抓取。挺急的,在线等……
评论 Fuller 2017-7-24 12:56
http://www.gooseeker.com/doc/article-101-1.html 如何抓取网页片段完整信息——以采集京东商品标题为例
Lucky嗨嗨: 如果我非要用前面的方法,在爬取知网摘要的时候,摘要显示是不完整的,所以爬取的结果也是不完整的,怎样把完整的摘要都爬下来呢?非常感谢 ...
评论 Lucky嗨嗨 2017-7-24 12:49
Fuller: 百度关键词新闻搜索,也有数据DIY,只用输入关键词,启动采集,就可以下数据了。 <a href="http://www.gooseeker.com/res/datadiy.html" target="_blank">http://www.gooseeker.com/res/datadiy.html</a> ...
如果我非要用前面的方法,在爬取知网摘要的时候,摘要显示是不完整的,所以爬取的结果也是不完整的,怎样把完整的摘要都爬下来呢?非常感谢
评论 Fuller 2017-7-24 11:50
Lucky嗨嗨: 谢谢啦!我不会编程也可以用数据DIY吗?那如果我想在百度搜索关键词再爬虫有什么好的推荐吗?第四步我看了,问题出现在4.2.2,不知道为什么“下一页”不能映射! ...
百度关键词新闻搜索,也有数据DIY,只用输入关键词,启动采集,就可以下数据了。
http://www.gooseeker.com/res/datadiy.html
评论 Lucky嗨嗨 2017-7-24 11:39
Fuller: 翻页有问题,仔细看看第四步,翻页设置。采知网用Gooseeker 数据DIY更简单方便。
谢谢啦!我不会编程也可以用数据DIY吗?那如果我想在百度搜索关键词再爬虫有什么好的推荐吗?第四步我看了,问题出现在4.2.2,不知道为什么“下一页”不能映射!
评论 Lucky嗨嗨 2017-7-24 11:38
设置翻页的时候到4.2.2的时候“下一页”的没有映射到节点上!所以后面爬虫的时候要手动翻页,这是为什么啊?
评论 Fuller 2017-7-24 11:14
Lucky嗨嗨: 为什么我设置完翻页采集,要手动翻页才能采集下一页?
翻页有问题,仔细看看第四步,翻页设置。采知网用Gooseeker 数据DIY更简单方便。
评论 Lucky嗨嗨 2017-7-24 11:02
为什么我设置完翻页采集,要手动翻页才能采集下一页?
评论 Fuller 2017-7-15 11:55
翻页设置有问题,打数机有什么报错?没有线索了,是说采集完了,需要添加新的要采集网址或者激活原来的网址
大锅方便面: 请教一下,设置页数后提示“没有线索了,可添加新线索或激活已有线索”是什么意思? 设置了翻页采集后还是只能采到当前页面的内容。 谢谢 ...
评论 大锅方便面 2017-7-15 11:28
请教一下,设置页数后提示“没有线索了,可添加新线索或激活已有线索”是什么意思?
设置了翻页采集后还是只能采到当前页面的内容。
谢谢
评论 gz51837844 2017-7-2 23:40
云骨: 出现记号不允许空是怎么解决啊
你另发一个帖子,贴出来网址和规则名称,技术帮你分析下
评论 云骨 2017-7-2 15:02
出现记号不允许空是怎么解决啊
评论 Fuller 2017-4-17 11:51
jiaguozhong: 怎么设置翻多少页啊
看这篇帖子http://www.gooseeker.com/doc/thread-6473-1-1.html

查看全部评论(26)

集搜客GooSeeker网络爬虫 ( 粤ICP备11065265号-2 )

GMT+8, 2018-10-20 09:47