+ -
当前位置:首页 → 问答吧 → robots下disallow禁止访问某目录的问题

robots下disallow禁止访问某目录的问题

时间:2011-01-08

来源:互联网

想在禁止蜘蛛抓取某目录下的所有文件 ,写成
User-agent: *
Disallow: /wenda/


User-agent: *
Disallow: /wenda

这两种写法有什么区别,请高手解释一下

作者: dream8cn   发布时间: 2011-01-08

"Disallow:/wenda"对/wenda.html 和/wenda/index.html都不允许搜索引擎访问,
而"Disallow:/wenda/"则允许robot访问/wenda.html,而不能访问/wenda/index.html。

作者: z85329   发布时间: 2011-01-08

楼上你回答是完全错的。我的理解是
Disallow: /wenda/ 是禁止访问wenda目录下所有文件

Disallow: /wenda 是禁止访问url中带wenda所有文件,包括wenda目录下的和其它的文件

我不敢确定是不是这样,所以问一下

作者: dream8cn   发布时间: 2011-01-08

意思不是一样的么~~~~~~你看清楚了。把index.html换成****.html就全面了。

作者: z85329   发布时间: 2011-01-08