0
我的網站上有一個爬蟲程序,它不識別爲用戶代理中的機器人。我應該阻止這個IP範圍嗎?
的IP地址之一是:
131.161.8.197
所有機器人都屬於在131.161的IP範圍。
顯然它是基於ipwhois的「巴西百度」。
我應該繼續並阻止整個範圍的ips嗎?
我的網站上有一個爬蟲程序,它不識別爲用戶代理中的機器人。我應該阻止這個IP範圍嗎?
的IP地址之一是:
131.161.8.197
所有機器人都屬於在131.161的IP範圍。
顯然它是基於ipwhois的「巴西百度」。
我應該繼續並阻止整個範圍的ips嗎?
所以它來自巴西,問題的確是..你需要瞄準巴西地區嗎?
阻止抓取工具意味着您的流量處理量會減少,所以我個人會說要阻止它。
您可以使用您的robots.txt或通過服務器端進行。很明顯,你可以使用:
Order Deny,Allow
Deny from 131.161.8.197
或:
User-agent: Baiduspider
User-agent: Baiduspider-video
User-agent: Baiduspider-image
Disallow:/
是的,你可以阻止它 – anubhava