关于采集的问题。无法重复采集。怎么办?
时间:2011-09-30
来源:互联网
我采集某站首页,第一次采集成功,
该站点更新后,我第二次采集该站,
但是返回的还是第一次的结果。怎么办?
之后我把我这边我的网站的应用程序池 回收,这样再采集对方的网站,又可以了,
但是对方网站每次更新我都必须回收一下我自己网站的程序池,不然采集到的是对方网站还没有更新时候的内容。
该站点更新后,我第二次采集该站,
但是返回的还是第一次的结果。怎么办?
之后我把我这边我的网站的应用程序池 回收,这样再采集对方的网站,又可以了,
但是对方网站每次更新我都必须回收一下我自己网站的程序池,不然采集到的是对方网站还没有更新时候的内容。
作者: xingheng123 发布时间: 2011-09-30
换个采集的咯
作者: enjoy_gw 发布时间: 2011-09-30
采集的时候,自己给要采集的URL增加个时间戳参数。
比如原来采的是“A.ASP?a=b”或"A.HTML",现在你在程序里一律改成“A.ASP?a=b&c=d”+"&theforever_csdn=ok"或"A.HTML"+"&theforever_csdn=ok"
比如原来采的是“A.ASP?a=b”或"A.HTML",现在你在程序里一律改成“A.ASP?a=b&c=d”+"&theforever_csdn=ok"或"A.HTML"+"&theforever_csdn=ok"
作者: theforever 发布时间: 2011-09-30
走神了,不是上面那样的固定的值,时间戳,就是每次根据时间,每次要取不同的值,造成URL看来都不一样,以此避免本地缓存。
所以应该是“A.ASP?a=b&c=d”+"&theforever_csdn=当前时间的yyyymmddhhMMss格式"或"A.HTML"+"&theforever_csdn=当前时间的yyyymmddhhMMss格式"
所以应该是“A.ASP?a=b&c=d”+"&theforever_csdn=当前时间的yyyymmddhhMMss格式"或"A.HTML"+"&theforever_csdn=当前时间的yyyymmddhhMMss格式"
作者: theforever 发布时间: 2011-09-30
相关阅读 更多
热门阅读
-
office 2019专业增强版最新2021版激活秘钥/序列号/激活码推荐 附激活工具
阅读:74
-
如何安装mysql8.0
阅读:31
-
Word快速设置标题样式步骤详解
阅读:28
-
20+道必知必会的Vue面试题(附答案解析)
阅读:37
-
HTML如何制作表单
阅读:22
-
百词斩可以改天数吗?当然可以,4个步骤轻松修改天数!
阅读:31
-
ET文件格式和XLS格式文件之间如何转化?
阅读:24
-
react和vue的区别及优缺点是什么
阅读:121
-
支付宝人脸识别如何关闭?
阅读:21
-
腾讯微云怎么修改照片或视频备份路径?
阅读:28