2017-08-22 160 views
1

我試圖用cURL從網頁上實用地收集信息。我需要的信息非常基本,而且頁面非常基本。cURL導致503;頁面在瀏覽器中正常工作。

使用cURL時,我收到503錯誤。當我在同一臺機器的瀏覽器中訪問同一頁面時,頁面加載非常好。我讀到這可能是由於網站要求在查詢時傳遞cookie。我已經嘗試過了,但是我承認,我可能做錯了(我從Web瀏覽器的檢查器中截取了cookie)。

curl --cookie "sessionId=.eJxrYKotZNQI5S9OLS7OzM-LT81LTMpJTfFmChVIzEktKolPzkhNzo4vycxNLWRKTkksSQUxueCMQuZQLvaHHGI82lqMp0KTCypLqrjiQ0OcuQpZNIMKWduCCtlCuUvyi-NLC0B6UgrZO0v1ACyMJy0:1dk8X0:WIgK35IaFa7RbCe7EqpSMtLjK9w" https://www.appannie.com/en/apps/ios/app/284815942/ -o /tmp/test.html 

我是一個非常基本的用戶;具有非常基本的知識。有一個很好的機會我錯過了明顯的東西。如果這是一個重要的警告,我已經收集了我正在嘗試使用nginx訪問的站點。

+0

有些服務器就是不喜歡它,當你沒有一個用戶 - 代理頭,也許嘗試更精細的請求,包括真正的頭文件? –

回答

0

有些網站將禁用捲髮用戶代理和一些禁用瀏覽與丟失的標題。我想下面捲曲和它的偉大工程

curl 'https://www.appannie.com/en/apps/ios/app/284815942/' -H 'pragma: no-cache' -H 'dnt: 1' -H 'accept-encoding: gzip, deflate, br' -H 'accept-language: en-US,en;q=0.8' -H 'upgrade-insecure-requests: 1' -H 'user-agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36' -H 'accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8' -H 'cache-control: no-cache' -H 'authority: www.appannie.com' --compressed 

這是瀏覽器如何使得它,這是你應該嘗試複製

+0

這是完美的!謝謝! – chippewa

相關問題