2016-06-09 60 views
0

我的網站上有一個爬蟲程序,它不識別爲用戶代理中的機器人。我應該阻止這個IP範圍嗎?

的IP地址之一是:
131.161.8.197

所有機器人都屬於在131.161的IP範圍。

顯然它是基於ipwhois的「巴西百度」。

我應該繼續並阻止整個範圍的ips嗎?

+0

是的,你可以阻止它 – anubhava

回答

1

所以它來自巴西,問題的確是..你需要瞄準巴西地區嗎?

阻止抓取工具意味着您的流量處理量會減少,所以我個人會說要阻止它。

您可以使用您的robots.txt或通過服務器端進行。很明顯,你可以使用:

Order Deny,Allow 
Deny from 131.161.8.197 

或:

User-agent: Baiduspider 
User-agent: Baiduspider-video 
User-agent: Baiduspider-image 
Disallow:/