2013-04-06 336 views
-1

如何在Scrapy(python)中設置線程池大小?在Scrapy中設置線程池大小

+0

scrapy沒有一個線程池。你的意思是如何增加併發請求的數量 - 在文檔中有幾個設置覆蓋了這一點。 – 2013-04-07 09:01:49

回答

4

由於Scrapy不使用多線程,而是使用所謂的底層異步HTTP框架Twisted你說的肯定是你有多少蜘蛛可以同時運行?請參閱CONCURRENT_REQUESTS文檔。 默認:16