我设置了清楚老数据,但是爬取下来还是有几十万条数据,唯一值应该是6000多条,请问是哪里设置有误呢?
https://artpro.com/auction-house/92pYcR1T1l?tab=3

任务名是artpro-auctionhouse1
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2023-10-7 08:48

沙发
Fuller 管理员 发表于 2023-10-7 08:48:35 | 只看该作者
我测试了一下你的规则,运行的挺好的。
1. 即使设置了清除老数据,第一条数据一直清除不了,这是正常的,特意留了一条老数据
2. 设置了连续滚屏的规则,运行之前要把爬虫的自动滚屏关掉,像下图这样设置


举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-29 03:23