今天在查看IIS日志時發現,“WukongSpider”竟然占了很大的量,在其中一天的日志中,WukongSpider竟然達1萬多條,一萬多PV啊,就這么被這個可惡的悟空搜索給霸占了,并且WukongSpider出現頻率過高,已經超過Google / Baidu / Yahoo / Youdao / Soso等正規搜索引擎的抓取條數了。
網上查了一下這個站:
唔箜搜索 唔箜搜索是綜合型的手機搜索引擎,提供分類定向搜索,共有手機圖片、手機鈴聲、mp3、手機地圖、手機游戲等17個類別的搜索和下載. wukong.net |
方法一:
將WukongSpider添加到Robots.txt,相信這個家伙也是遵循搜索引擎抓取規則的。
方法二:
將WukongSpider的IP地址加入到黑名單中,禁止該IP來訪,可以大大減輕服務器的壓力。
推薦:以上兩個方法都使用,PS:如果你的網站是手機類站點,就不要屏蔽了!