文章詳情頁
python - pyspider 定時爬取問題
瀏覽：104日期：2022-07-14 10:37:31
問題描述
在寫爬蟲的時候，發現 在代碼中設置了 every 之后，21號爬取了一次之后，今天看 result 沒有更新，那個 lastcrawltime 依舊是 21號的。請問是不是我的參數設置的不正確？
問題解答
回答1：你貼的這個 task 的圖，是什么任務的？
貼的是 detail_page 的任務的
題主給 index_page 設置了小于 cronjob 間隔的時間。然而沒有給 detail_page 設置。這樣 detail_page 是不會被重新調度的
project 隊列狀態，最近活動任務是怎樣的？
回答2：有可能是 every 和 age 不匹配。如果 age 沒問題的話，說實話這屬于疑難雜癥了，我也經常遇到，我都是去 taskdb 把相應的表清空，然后重啟 pyspider 重新運行項目
相關文章：
1. android - NavigationView 的側滑菜單中如何保存新增項（通過程序添加）2. 這段代碼既不提示錯誤也看不到結果，請老師明示錯在哪里，謝謝！3. 老師 我是一個沒有學過php語言的準畢業生 我希望您能幫我一下4. Thinkphp5.1報錯不支持Redis5. php7.3.4中怎么開啟pdo驅動6. ueditor上傳服務器提示后端配置項沒有正常加載，求助！！！！！7. 提示語法錯誤語法錯誤: unexpected ’abstract’ (T_ABSTRACT)8. 關于thinkphp 5.1中，ajax提交數據url的格式寫法，加花括號就出錯，請老師指點9. tp5 不同控制器中的變量調用問題10. http://run.php.cn/在線PHP程序運行結果不正確
排行榜
網公網安備