工藤新一 发表于 2008-7-24 15:52:11

哪位高手指点一下 关于采集动态页面分页问题

列表采集每篇文章链接地址为http://www.emkt.com.cn/cgi-bin/article.cgi?ID=9947
   实际访问的地址是                   http://www.emkt.com.cn/article/99/9947.html


用后者进行测试的时候分页采集完全正确,但是用前者时候就只能采集到第一页


哪位高手指点一下啊!感谢啊! 在线deng。。。

sushy 发表于 2008-7-24 18:17:57

http://www.emkt.com.cn/cgi-bin/article.cgi?ID=9947普药营销的通路创新
http://www.emkt.com.cn/article/99/9947.html         为谁辛苦,为谁忙

你有没有搞清楚你要采集什么东西啊?

工藤新一 发表于 2008-7-24 19:13:53

就是动态的页面采不到全部分页,只能采集到第一页
只有静态的可以采到全部分页内容
http://www.emkt.com.cn/article/311/31199.html
   http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199
这2个地址所指向的是同一篇文章,在测试中,用http://www.emkt.com.cn/article/311/31199.html可以采集到全部分页
http://www.encm.com.cn/11.jpg
用http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199只可以采集到第一页
http://www.encm.com.cn/22.jpg

sushy 发表于 2008-7-24 20:01:45

明白了,

火车采集分页和采集网址是一个原理的。

对于相对链接,他就做相对本页链接的分析。


<table border="1" width="150" align="right" cellspacing="0" cellpadding="4" bordercolorlight="#99CEC2" bordercolordark="#e9f9f9">
<tr bgcolor="#71BAAA" align="center"><td class="11pt">目 录</td></tr>
<tr bgcolor="#e9f9f9"><td class="9pt"><IMG src="/images-sys/icon.gif" width="13" height="13" alt="*" align="absmiddle"><font color=red>第 1 页</font><br><IMG src="/images-sys/icon.gif" width="13" height="13" alt="*" align="absmiddle"><a href="31199-2.html">第 2 页</a><br></td></td></table>


很明显,当浏览器跳转的时候,
从 http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199

到 http://www.emkt.com.cn/article/311/31199.html

但是,火车不能识别这种跳转。他仍然认为当前页地址为http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199

而这里的分页是相对地址。相对地址,也就是相对于浏览器的地址。

在IE中,跳转后地址变成了
http://www.emkt.com.cn/article/311/31199.html

则第二页的相对地址变成了

http://www.emkt.com.cn/article/311/31199-2.html


但是在火车中他仍然认为当前页地址是

http://www.emkt.com.cn/cgi-bin/article.cgi?ID=31199

那么相对地址自然就是

http://www.emkt.com.cn/cgi-bin/31199-2.html

很明显,火车将第二页的相对地址分析错了。自然采集不到了。

那么为什么你在火车中采集

http://www.emkt.com.cn/article/311/31199.html
的时候可以呢?
因为第二页的分页地址被火车识别成了

http://www.emkt.com.cn/article/311/31199-2.html

这应该是火车的一个BUG吧。如果是BUG,处理起来也比较麻烦。

对于这种跳转,的确没什么好办法。

rq204 发表于 2008-7-24 20:55:01

回复 4楼 的帖子

分析的很透彻呀,这种情况很少见,不过它这网站网址有规律,你采集下来处理一下就可以了。

sengl 发表于 2008-7-25 07:24:05

学习了

工藤新一 发表于 2008-7-26 21:59:09

是啊 !我现在只能按类别来采哦

Joe_Stone 发表于 2008-7-28 15:02:42

学习了.关注
页: [1]
查看完整版本: 哪位高手指点一下 关于采集动态页面分页问题