站长张玉水,一九九六年毕业于河北师范大学计算机系。曾担任多起在全国及省市范围内具有重大影响的如优化的关键词画廊,google优化的煤气炉等火爆词关键词的技术策划.焦作市汇力机械制造有限公司优化技术顾问;等多家公司企业优化技术顾问,并担任seo培训学校的名誉校长,优化大师手机:13146600988
热门关键字: ub 搜索引 发展过 谷歌 google 优化

如果你真的想屏蔽baiduspider,可尝试以下方法

作者:admin时间:08-01-08 点击:

从最初的反百度改成了现在的Ban百度,站长对待百度的态度就像BIDU的走势,好像现在屏蔽baiduspider已经成为一种时尚,难道这玩意也跟着纳斯达克变?

首先我自己不会屏蔽baiduspider,也不大相信baiduspider会故意忽略robots.txt,但如果你真的想屏蔽 baiduspider,可尝试以下方法:

1. 上传一个robots.txt到根目录,内容为:

User-agent: baiduspider
Disallow: /

一个搜索引擎爬虫工作前首先应该访问/robots.txt制定排除列表,baiduspider还无法高级到故意忽略某些网站的robots.txt,不知道baiduspider怎么折腾才能让robots.txt失效。

2. 如果仅仅因为服务器吃不消,不防按照
http://www.baidu.com/search/spider.htm的指示写信给百度。估计很多人试过得不到回复(Google基本都是2个工作日内回复)。

3. 如果还没有办法,可尝试.htaccess屏蔽,上传一个.htaccess文件到根目录,内容为:

SetEnvIfNoCase User-Agent "^baiduspider" ban_bot
deny from env=ban_bot

还可以扩大这个列表,屏蔽那些Email提取爬虫、网站克隆爬虫等(小偷一般不守法,但总比自己什么都不做强):

SetEnvIfNoCase User-Agent "^baiduspider" ban_bot
SetEnvIfNoCase User-Agent "^HTTrack" ban_bot
SetEnvIfNoCase User-Agent "^EmailCollector" ban_bot
SetEnvIfNoCase User-Agent "^EmailWolf" ban_bot
SetEnvIfNoCase User-Agent "^ExtractorPro" ban_bot
SetEnvIfNoCase User-Agent "^Offline" ban_bot
SetEnvIfNoCase User-Agent "^WebCopier" ban_bot
SetEnvIfNoCase User-Agent "^Webdupe" ban_bot
SetEnvIfNoCase User-Agent "^WebZIP" ban_bot
SetEnvIfNoCase User-Agent "^Web Downloader" ban_bot
SetEnvIfNoCase User-Agent "^WebAuto" ban_bot
SetEnvIfNoCase User-Agent "^WebCapture" ban_bot
SetEnvIfNoCase User-Agent "^WebMirror" ban_bot
SetEnvIfNoCase User-Agent "^WebStripper" ban_bot

deny from env=ban_bot

.htaccess要用文本方式上传,有些Apache配置比较怪异,防止引起冲突建议上传后立刻看看是否影响普通用户的访问。如果浏览正常,再用FlashGet模拟baiduspider测试这个.htaccess是否工作,方法是:

FlashGet->工具->选项->协议,把HTTP用户代理改成用户自定义:baiduspider;然后用FlashGet下载该网站任意页面,在FlashGet的下载日志里得到HTTP/1.1 403 Forbidden则成功:



最新评论共有 0 位网友发表了评论
发表评论
评论内容:不能超过250字,需审核,请自觉遵守互联网相关政策法规。
用户名: 验证码: 验证码
查看所有评论
相关文章