如题。
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-8-19 22:03

沙发
Fuller 管理员 发表于 2016-8-19 22:03:09 | 只看该作者
数据采集是高密度地访问目标网站,真正的云采集最大的问题是被封IP

云采集最重要的卖点应该是:自己的电脑关了,也能采集。
具体解释就是:把采集任务部署好以后,就不用管了,光等着去收数据就行了。

其实采集数据不用管在哪里,在云上也好,在离散的电脑上也好,反正用户自己的电脑不用参与,爬虫是在其他电脑上运行的。这样看来,云还是非云,是没有区别的。
真正的云采集,网络爬虫软件运行在有固定IP的服务器上,无论有100个服务器还是1000个服务器,大批量采集的时候,封锁IP是很快的,很快就会把这100甚至1000个IP封锁掉。那么应对反爬变成了最头疼的问题。

GooSeeker网络爬虫并不可以炒作“云采集”,想运行在云上还是运行在离散的电脑上,那是用户自己的选择。因为GooSeeker采用了一个弹性计算架构,电脑可以随时加入到这个架构中,而且不区分是否是云,也不限制数量,形成一个大规模的爬虫群
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-13 22:18