Python定時任務(wù)隨機(jī)時間執(zhí)行的實(shí)現(xiàn)方法
背景:
有一個爬蟲服務(wù),需要定時從公開網(wǎng)站上拉取一些數(shù)據(jù),為了避免被識別為爬蟲(防爬蟲的識別需要根據(jù)很多特征,時間僅僅是其中一個維度),需要在指定的時間內(nèi),隨機(jī)生成一個時間爬取
腳本是python寫的,直接上代碼...
import logging import traceback from datetime import datetime from apscheduler.schedulers.background import BackgroundScheduler scheduler = BackgroundScheduler() def spider_schedule(): # spider_schedule是job_id scheduler.remove_job('spider_schedule') try: print 'spider start... ', datetime.now().strftime('%Y-%m-%d %X') #--------自己的業(yè)務(wù)代碼------- pass #--------------------------- print 'spider end... ', datetime.now().strftime('%Y-%m-%d %X') except Exception as e: print traceback.format_exc(e) finally: interval_minutes = random.randint(60, 120) # 1-120分鐘隨機(jī)選一個時間 interval_seconds = random.randint(1, 60) # 1~60秒隨機(jī)選一個時間 scheduler.add_job(spider_schedule, 'interval', minutes=interval_minutes, seconds=interval_seconds, id='spider_schedule') if __name__ == '__main__': scheduler.add_job(spider_schedule, 'interval', seconds=10, id='spider_schedule') scheduler.start()
ps:下面看下python定時執(zhí)行任務(wù)的三種方式
#!/user/bin/env python # @Time :2018/6/7 16:31 # @Author :PGIDYSQ #@File :PerformTaskTimer.py #定時執(zhí)行任務(wù)命令 #1.定時任務(wù)代碼 import time,os,sched # schedule = sched.scheduler(time.time,time.sleep) # def perform_command(cmd,inc): # os.system(cmd) # print('task') # def timming_exe(cmd,inc=60): # schedule.enter(inc,0,perform_command,(cmd,inc)) # schedule.run() # print('show time after 2 seconds:') # timming_exe('echo %time%',2) #2.周期性執(zhí)行任務(wù) schedule = sched.scheduler(time.time,time.sleep) def perform_command(cmd,inc): #在inc秒后再次運(yùn)行自己,即周期運(yùn)行 schedule.enter(inc, 0, perform_command, (cmd, inc)) os.system(cmd) def timming_exe(cmd,inc=60): schedule.enter(inc,0,perform_command,(cmd,inc)) schedule.run()#持續(xù)運(yùn)行,直到計(jì)劃時間隊(duì)列變成空為止 print('show time after 2 seconds:') timming_exe('echo %time%',2) #3.循環(huán)執(zhí)行命令 # import time,os # def re_exe(cmd,inc = 60): # while True: # os.system(cmd) # time.sleep(inc) # re_exe("echo %time%",5)
相關(guān)文章
使用python opencv對畸變圖像進(jìn)行矯正的實(shí)現(xiàn)
本文主要介紹了使用python opencv對畸變圖像進(jìn)行矯正的實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下2022-05-05python 服務(wù)器運(yùn)行代碼報錯ModuleNotFoundError的解決辦法
這篇文章主要介紹了python 服務(wù)器運(yùn)行代碼報錯ModuleNotFoundError的解決辦法,幫助大家排除錯誤,正確的運(yùn)行代碼,感興趣的朋友可以了解下2020-09-09Python 數(shù)據(jù)處理庫 pandas 入門教程基本操作
pandas是一個Python語言的軟件包,在我們使用Python語言進(jìn)行機(jī)器學(xué)習(xí)編程的時候,這是一個非常常用的基礎(chǔ)編程庫。本文是對Python 數(shù)據(jù)處理庫 pandas 入門教程,非常不錯,感興趣的朋友一起看看吧2018-04-04python抓取網(wǎng)頁圖片示例(python爬蟲)
這篇文章主要介紹了python抓取網(wǎng)頁圖片示例(python爬蟲),需要的朋友可以參考下2014-04-04安裝并免費(fèi)使用Pycharm專業(yè)版(學(xué)生/教師)
這篇文章主要介紹了安裝并免費(fèi)使用Pycharm專業(yè)版(學(xué)生/教師),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-09-09詳解用Python把PDF轉(zhuǎn)為Word方法總結(jié)
這篇文章主要介紹了詳解用Python把PDF轉(zhuǎn)為Word方法總結(jié),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-04-04Python cookbook(數(shù)據(jù)結(jié)構(gòu)與算法)篩選及提取序列中元素的方法
這篇文章主要介紹了Python cookbook(數(shù)據(jù)結(jié)構(gòu)與算法)篩選及提取序列中元素的方法,涉及Python列表推導(dǎo)式、生成器表達(dá)式及filter()函數(shù)相關(guān)使用技巧,需要的朋友可以參考下2018-03-03python pandas 對series和dataframe的重置索引reindex方法
今天小編就為大家分享一篇python pandas 對series和dataframe的重置索引reindex方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-06-06