哪位高手指点一下 关于采集动态页面分页问题
列表采集每篇文章链接地址为http://www.emkt.com.cn/cgi-bin/article.cgi?ID=9947实际访问的地址是 http://www.emkt.com.cn/article/99/9947.html
用后者进行测试的时候分页采集完全正确,但是用前者时候就只能采集到第一页
哪位高手指点一下啊!感谢啊! 在线deng。。。 http://www.emkt.com.cn/cgi-bin/article.cgi?ID=9947普药营销的通路创新
http://www.emkt.com.cn/article/99/9947.html 为谁辛苦,为谁忙
你有没有搞清楚你要采集什么东西啊? 就是动态的页面采不到全部分页,只能采集到第一页
只有静态的可以采到全部分页内容
http://www.emkt.com.cn/article/311/31199.html
http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199
这2个地址所指向的是同一篇文章,在测试中,用http://www.emkt.com.cn/article/311/31199.html可以采集到全部分页
http://www.encm.com.cn/11.jpg
用http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199只可以采集到第一页
http://www.encm.com.cn/22.jpg 明白了,
火车采集分页和采集网址是一个原理的。
对于相对链接,他就做相对本页链接的分析。
<table border="1" width="150" align="right" cellspacing="0" cellpadding="4" bordercolorlight="#99CEC2" bordercolordark="#e9f9f9">
<tr bgcolor="#71BAAA" align="center"><td class="11pt">目 录</td></tr>
<tr bgcolor="#e9f9f9"><td class="9pt"><IMG src="/images-sys/icon.gif" width="13" height="13" alt="*" align="absmiddle"><font color=red>第 1 页</font><br><IMG src="/images-sys/icon.gif" width="13" height="13" alt="*" align="absmiddle"><a href="31199-2.html">第 2 页</a><br></td></td></table>
很明显,当浏览器跳转的时候,
从 http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199
到 http://www.emkt.com.cn/article/311/31199.html
但是,火车不能识别这种跳转。他仍然认为当前页地址为http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199
而这里的分页是相对地址。相对地址,也就是相对于浏览器的地址。
在IE中,跳转后地址变成了
http://www.emkt.com.cn/article/311/31199.html
则第二页的相对地址变成了
http://www.emkt.com.cn/article/311/31199-2.html
但是在火车中他仍然认为当前页地址是
http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199
那么相对地址自然就是
http://www.emkt.com.cn/cgi-bin/31199-2.html
很明显,火车将第二页的相对地址分析错了。自然采集不到了。
那么为什么你在火车中采集
http://www.emkt.com.cn/article/311/31199.html
的时候可以呢?
因为第二页的分页地址被火车识别成了
http://www.emkt.com.cn/article/311/31199-2.html
这应该是火车的一个BUG吧。如果是BUG,处理起来也比较麻烦。
对于这种跳转,的确没什么好办法。
回复 4楼 的帖子
分析的很透彻呀,这种情况很少见,不过它这网站网址有规律,你采集下来处理一下就可以了。 学习了 是啊 !我现在只能按类别来采哦 学习了.关注
页:
[1]