一聚教程网:一个值得你收藏的教程网站

热门教程

如何分辨真假Baiduspider百度蜘蛛?

时间:2022-06-29 05:49:58 编辑:袖梨 来源:一聚教程网

很多站长都发有发现一个问题:百度spider光顾过于频繁,已超越服务器承受能力。而51统计网经过和广大站长研究以及实验发现,Baiduspider对站点的抓取并无异常,而那些spider极有可能是假的蜘蛛,是个“李鬼”。
那么,我们应该如何通过IP来判断spider是不是来自百度搜索引擎的呢?

可以通过DNS反查方式来解决这个问题。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:

1、在linux平台下,可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名。
2、在windows平台或者IBM OS/2平台下,可以使用nslookup ip命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp的格式命名。
3、在mac os平台下,你可以使用dig 命令反解ip来判断是否来自百度spider的抓取。打开命令处理器,输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来
自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp的格式命名。
注意:非 *.baidu.com 或 *.baidu.jp 格式命名的,即为假的为冒充。

 

热门栏目