+ -
当前位置:首页 → 问答吧 → robots.txt禁止抓取所有.htm 允许抓取.html 这样写法有问题没?

robots.txt禁止抓取所有.htm 允许抓取.html 这样写法有问题没?

时间:2010-12-27

来源:互联网

发错地方了 帖子转自:http://www.seowhy.com/bbs/thread-244890-1-1.html

作者: lei8781   发布时间: 2010-12-27

作者: 31440   发布时间: 2010-12-27

引用:
原帖由 31440 于 2010-12-27 13:30 发表
???蜘蛛会认为两个文件是同一类型?

作者: lei8781   发布时间: 2010-12-27

蜘蛛能看见两者不同,就能做到

作者: www.ceodiy.com   发布时间: 2010-12-27

这是什么啊,不知道你说了些什么?

作者: xie0308   发布时间: 2010-12-27

热门下载

更多