火车采集器软件交流官方论坛

 找回密码
 加入会员
搜索
火车采集器V9版免费下载火车浏览器 - 可视采集,万能群发,全自动脚本工具
查看: 6256|回复: 2

这个仙女屋怎么采集不到网址列表啊?邪门了

[复制链接]
发表于 2016-5-3 15:57:58 | 显示全部楼层 |阅读模式
http://www.xiannvw.com/zhubo/SK/yisuwan/1.html
怎么设置都不行! 提示区域设置内找不到,但是绝对填的对呀?
谁能帮看一下吗?  谢谢了
发表于 2016-5-3 21:32:12 | 显示全部楼层
返回码:521,表明网站设置了反爬虫策略。
"正常浏览器第一次访问该站,返回521的错误状态码,与此同时还会返回回一个Cookie。浏览器接受到状态码与Cookie,会再次进行一次请求,因为接收到了Set-Cookie,所以第二次的Request Headers会附上之前接收到的Cookie。"以上是知乎上某人的关于521的解释。
这样的话,我们可以利用火车采集器“登录采集功能”来采集(虽然我们不需要登录,但是一样要利用Cookie)
具体的方法是在其他设置-Http请求设置-Cookie-使用浏览器获取采集登录信息


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?加入会员

x
 楼主| 发表于 2016-5-4 13:14:35 | 显示全部楼层
js2016 发表于 2016-5-3 21:32
返回码:521,表明网站设置了反爬虫策略。
"正常浏览器第一次访问该站,返回521的错误状态码,与此同时还会 ...

真是太感谢了 !!
您需要登录后才可以回帖 登录 | 加入会员

本版积分规则

QQ|手机版|Archiver|火车采集器官方站 ( 皖ICP备06000549 )

GMT+8, 2025-5-11 10:59

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表