集搜客GooSeeker网络爬虫

标题: Timeout to loud the page/抓取失败（超时），抓取规则不合适或者超时时间设置太短 [打印本页]

作者: ym 时间: 2015-10-22 15:51
标题: Timeout to loud the page/抓取失败（超时），抓取规则不合适或者超时时间设置太短
本帖最后由 ym 于 2016-5-30 17:45 编辑

常见问题 > 采集数据—常见问题导航 > 采集过程的常见问题 > Timeout to loud the page/等待超时/数据抓取失败怎么解决
网页抓取规则不合适，就会抓取失败（超时），如果DS打数机的超时时间超过1分钟，就会变得好慢。

[attach]294[/attach]

解决方案：
1）大部分是因为网页结构与规则不匹配，才会抓取失败，所以，首先要研究不合适的原因。根据DS日志中失败的线索编号，在MS谋数台上加载分析，即，使用“工具”菜单->“加载规则”->“按线索号”，输入某个线索号，MS谋数台会把那个网页加载上来并用抓取规则进行分析，如果规则不适合，就会提示**抓取内容定位不到，定位不到就是说结构不同或发生了变化，请根据提示修改规则或者针对网页另做规则。

2）有一个技巧可以试用，就是，选中DS打数机的“配置”->“定时器触发”。轻易不要用，但是如果发现总是抓失败（超时），就可以试试效果。比如，淘宝网页，微博网页，如果用浏览器看这样的网页，就能看到浏览器的地址输入栏那里的表示加载状态的圈一直在转，这样的网页永远加载不完，会造成DS打数机Timeout，就可以打开定时器触发。

3）修改超时时间，选择DS打数机菜单“配置”->“超时时长”，默认是60秒，不要修改小于60。

作者: Fuller 时间: 2016-10-10 16:48
DS打数机日志窗口可能收缩了，需要先打开才能看到日志。

下面是打开状态
[attach]1847[/attach]

下面是收缩状态，以及打开方法：按住边沿中间的三角符号，往上拖
[attach]1848[/attach]

作者: Fuller 时间: 2016-11-15 11:26
关于提高适应性的一个全面总结《提高规则适应性的方法有哪些？》

欢迎光临集搜客GooSeeker网络爬虫 (http://120.55.75.51/doc/)