图解spider爬的陷阱 帮你更好优化你的网站

这张图很形象的说明了搜索引擎的Spider在抓取网页时，一些不友好的元素会对其形成较坏的影响（说明：本人离开英文环境已半年，如有解释错误，勿怪）：

1.Orphan Pages；Spider是根据链接抓取网页，没有链接的网页，自然使spider抓取困难。
2.Unfriendly SEO-CMS System；CMS对SEO不友好的话，会对spider形成一定的干扰，比如js、ajax、链接分布、frame结构等等。
3.Bad server Configuration；如阻止搜索引擎spider访问、302重定向、访问权限等等，以及服务器的稳定性，都有可能对spider造成致命的打击。
4.Cloaking；比如隐藏文字、没有任何内外链的网页，都会使spider出现问题。
5.Session Based Coding；URL根据访问者的cookie随机变换、html代码中大量的字符，这些session闯下的祸，对于一个不依赖SEO的网站来说可能没什么，但是对于一个基于SEO的网页来说可是致命的。
6.没有处理错误页面；如404跳转等

...不是很明白...

看起来确实比较经典，谢谢分享！济南人才

怎么会有蜘蛛呢？

不错 好图
支持 淘宝新款冬季女装

谢谢分享