0
我有一個任務來抓取100000個URL並將數據保存在excel表格中&將圖片存儲在單獨的目錄中,我已經使用Simple HTML DOM和PHP Excel編寫了腳本,它在1分鐘左右處理4個URL,但隨着時間漸漸變慢更多通過更多&。如何讓更長的PHP腳本更快?
我想讓它更快。我使用面向對象的方法,並將不同的子進程劃分爲小函數,這也有助於我保持變量不受內存影響。我在Windows上使用本地資源XAMPP。
請讓我知道如何加快執行,在更短的時間內做更多&更多。
感謝。
您需要分享一些代碼才能獲得真正的建議。 –
您應該考慮一種排隊所有要處理的站點的方法,並行運行您的搜尋器,消耗隊列。 – Tom
請提供有關您的問題的更多信息。如果你有一個10萬個網址的列表來搶先鋒。您可以使用其他方法來獲取每個內容,然後再進行處理。 – Progrock