Django+Celery實現(xiàn)動態(tài)配置定時任務(wù)的方法示例
哈嘍,今天給大家分享一篇Django+Celery實現(xiàn)動態(tài)配置定時任務(wù),因為最近也是無意間看到一位大佬關(guān)于這塊的文章,然后自己覺得不錯,也想學(xué)習(xí)寫一下,然后最終實現(xiàn)功能是在前端頁面統(tǒng)一管理計劃任務(wù),大家可以在admin管理頁面設(shè)置,也可以在自己寫的前端頁面刪除添加編輯,實時生效,還可以監(jiān)控這些監(jiān)控任務(wù)是否運行成功失敗。
補(bǔ)充:如果大家對celery不熟悉的話,建議先學(xué)習(xí)celery
一、安裝
1.在Linux系統(tǒng)上安裝模塊
celery (3.1.26.post2) celery-with-redis (3.0) redis (2.10.6) Django (2.1.10) django-celery (3.3.1)
2.遷移生成表
python manage.py migrate
3.查看生成的表,這幾張表是上面執(zhí)行命令后生成的
二、配置
1.添加apps
INSTALLED_APPS = [ 'django.contrib.admin', 'django.contrib.auth', 'django.contrib.contenttypes', 'django.contrib.sessions', 'django.contrib.messages', 'django.contrib.staticfiles', 'djcelery', #這是要添加的 ]
2.配置django時區(qū)
LANGUAGE_CODE = 'en-us' TIME_ZONE = 'Asia/Shanghai' USE_I18N = True USE_L10N = True USE_TZ = False
3.Celery配置
BROKER_URL = 'redis://localhost:6379' #代理人 CELERY_RESULT_BACKEND = 'redis://localhost:6379' #結(jié)果存儲地址 CELERY_ACCEPT_CONTENT = ['application/json'] #指定任務(wù)接收的內(nèi)容序列化類型 CELERY_TASK_SERIALIZER = 'json' #任務(wù)序列化方式 CELERY_RESULT_SERIALIZER = 'json' #任務(wù)結(jié)果序列化方式 CELERY_TASK_RESULT_EXPIRES = 12 * 30 #超過時間 CELERY_MESSAGE_COMPRESSION = 'zlib' #是否壓縮 CELERYD_CONCURRENCY = 4 #并發(fā)數(shù)默認(rèn)已CPU數(shù)量定 CELERYD_PREFETCH_MULTIPLIER = 4 #celery worker 每次去redis取任務(wù)的數(shù)量 CELERYD_MAX_TASKS_PER_CHILD = 3 #每個worker最多執(zhí)行3個任務(wù)就摧毀,避免內(nèi)存泄漏 CELERYD_FORCE_EXECV = True #可以防止死鎖 CELERY_ENABLE_UTC = False #關(guān)閉時區(qū) CELERYBEAT_SCHEDULER = 'djcelery.schedulers.DatabaseScheduler' # 定時任務(wù)調(diào)度器
4.在你項目的app下面配置celery.py
import os from celery import Celery,platforms from django.conf import settings os.environ.setdefault('DJANGO_SETTINGS_MODULE','blog.settings') app = Celery('blog') app.config_from_object('django.conf:settings') app.autodiscover_tasks(lambda: settings.INSTALLED_APPS) platforms.C_FORCE_ROOT = True @app.task(bind=True) def debug_task(self): print('Request: {0!r}'.format(self.request))
5.配置剛才app下面的__init__.py文件
from __future__ import absolute_import from .celery import app as celery_app
6.在app下面創(chuàng)建一個tasks.py文件
from blog.celery import app @app.task() def get_date(x,y,s): #這里的函數(shù)留意一下,后面會用到 print(s) return x + y @app.task() def get_task(): return 'test' @app.task() def get_command_task(): return 'success'
三、啟動
1.進(jìn)入你項目下面,執(zhí)行啟動worker,Worker是執(zhí)行任務(wù)的單元,它實時監(jiān)控消息隊列,如果有任務(wù)就獲取任務(wù)并執(zhí)行它。
celery -A autoops worker -l info
2.進(jìn)入你項目下面,執(zhí)行啟動beat,beat是定時把這個任務(wù)扔到隊列中
celery -A autoops beat -l info
3.啟動你的django項目
python manage.py runserver 192.168.10.133:8001
4.頁面展示
4.1這個是admin頁面下的,然后我自己重新寫了,大家也可以自己寫一個,admin和我自己寫的頁面實現(xiàn)的功能其實是一模一樣的。
4.2.對應(yīng)admin頁面的crontabs
添加周期
編輯修改周期
5.tasks任務(wù)
5.1.大家可以看到我添加了一個名為測試的任務(wù),每隔一分鐘執(zhí)行一次,任務(wù)模板其實就是你寫的tasks文件里面函數(shù)
看一下worker進(jìn)程日志輸出
四、監(jiān)控計劃任務(wù)
celery作為一個分布式異步任務(wù)隊列管理工具,通過界面化的方式來進(jìn)行管控任務(wù)的執(zhí)行狀態(tài)和查看任務(wù)執(zhí)行結(jié)果
flower作為web頁面來管理celery后臺任務(wù),和任務(wù)隊列是隔離的,也就是flower的運行與否并不會影響到任務(wù)隊列的真正執(zhí)行,但是flower中可以通過API接口來管理celery中的任務(wù)執(zhí)行。
4.1安裝flower,監(jiān)控celery計劃任務(wù)
pip3 install flower==0.9.2 -i http://pypi.douban.com/simple --trusted-host pypi.douban.com pip install tornado==5.1.1 celery flower -A blog --port=5555 #進(jìn)入項目目錄啟動flower
4.2打開瀏覽器,輸入http://ip:5555 查看
Name: 表示該任務(wù)的名稱,默認(rèn)規(guī)則為該函數(shù)的路徑規(guī)則,例如 {模塊名}.{文件名}.{函數(shù)名}
UUID: 表示一個唯一字符串ID用于表示該任務(wù)
State: 表示該任務(wù)的狀態(tài),包括: SUCCESS / FAILURE / STARTED / RECEIVED
SUCCESS 表示該任務(wù)執(zhí)行完畢且成功
FAILURE 表示該任務(wù)執(zhí)行失敗
STARTED 表示該任務(wù)正在執(zhí)行
RECEIVED 表示該任務(wù)在worker中,只是被接收而已
args: 表示該任務(wù)的列表參數(shù)
kwargs: 表示該任務(wù)的字典參數(shù)
Result: 表示該任務(wù)函數(shù)的返回結(jié)果
Received: 表示該任務(wù)在worker接收到的時間
Started: 表示該任務(wù)在worker開始執(zhí)行的時間
Runtime: 表示該任務(wù)在worker真正執(zhí)行的耗時(單位:秒)
Worker: 表示該任務(wù)所在的worker名稱
總結(jié):django+celery實現(xiàn)的定時任務(wù)還是不錯的,你可以在前端上查看管理所有定時任務(wù),實時修改生效刪除和禁用,所以有需求的話可以去試試。下次再分享啦
到此這篇關(guān)于Django+Celery實現(xiàn)動態(tài)配置定時任務(wù)的方法示例的文章就介紹到這了,更多相關(guān)Django Celery動態(tài)配置定時任務(wù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
使用Python代碼實現(xiàn)PDF文檔與SVG文件之間的轉(zhuǎn)換
PDF作為普遍采用的文件格式,確保了文檔的一致性和可靠性,而SVG(可縮放矢量圖形)則因其矢量性質(zhì),在網(wǎng)頁設(shè)計、高分辨率打印及動態(tài)交互內(nèi)容中展現(xiàn)出無與倫比的優(yōu)勢,本文將介紹如何使用Python將PDF文件轉(zhuǎn)換為SVG文件以及將SVG文件轉(zhuǎn)換為PDF文件,需要的朋友可以參考下2024-05-05Python必備shelve與dbm本地持久化存儲數(shù)據(jù)的兩個強(qiáng)大工具
當(dāng)涉及存儲大量數(shù)據(jù)并且需要高效訪問時,shelve和dbm模塊是Python中用于本地持久化存儲數(shù)據(jù)的兩個強(qiáng)大工具,它們允許開發(fā)人員以鍵值對的形式存儲數(shù)據(jù),并支持快速的檢索和更新操作,在本文將深入探討這兩個模塊,展示它們的優(yōu)勢和應(yīng)用場景2024-01-01用Python從0開始實現(xiàn)一個中文拼音輸入法的思路詳解
中文輸入法是一個歷史悠久的問題,但也實在是個繁瑣的活,不知道這是不是網(wǎng)上很少有人分享中文拼音輸入法的原因,接下來通過本文給大家分享使用Python從0開始實現(xiàn)一個中文拼音輸入法,需要的朋友可以參考下2019-07-07Python基于win32ui模塊創(chuàng)建彈出式菜單示例
這篇文章主要介紹了Python基于win32ui模塊創(chuàng)建彈出式菜單,結(jié)合實例形式分析了Python使用win32ui模塊創(chuàng)建彈出式菜單的具體步驟與相關(guān)操作技巧,并附帶說明了win32ui模塊的安裝命令,需要的朋友可以參考下2018-05-05