yolov5訓練時參數(shù)workers與batch-size的深入理解
yolov5訓練命令
python .\train.py --data my.yaml --workers 8 --batch-size 32 --epochs 100
yolov5的訓練很簡單,下載好倉庫,裝好依賴后,只需自定義一下data目錄中的yaml文件就可以了。這里我使用自定義的my.yaml文件,里面就是定義數(shù)據(jù)集位置和訓練種類數(shù)和名字。
workers和batch-size參數(shù)的理解
一般訓練主要需要調(diào)整的參數(shù)是這兩個:
workers
指數(shù)據(jù)裝載時cpu所使用的線程數(shù),默認為8。代碼解釋如下
parser.add_argument('--workers', type=int, default=8, help='max dataloader workers (per RANK in DDP mode)')
一般默使用8的話,會報錯~~。原因是爆系統(tǒng)內(nèi)存,除了物理內(nèi)存外,需要調(diào)整系統(tǒng)的虛擬內(nèi)存。訓練時主要看已提交哪里的實際值是否會超過最大值,超過了不是強退程序就是報錯。
所以需要根據(jù)實際情況分配系統(tǒng)虛擬內(nèi)存(python執(zhí)行程序所在的盤)的最大值
batch-size
就是一次往GPU哪里塞多少張圖片了。決定了顯存占用大小,默認是16。
parser.add_argument('--batch-size', type=int, default=16, help='total batch size for all GPUs, -1 for autobatch')
訓練時顯存占用越大當然效果越好,但如果爆顯存,也是會無法訓練的。我使用–batch-size 32時,顯存差不多能利用完。
兩個參數(shù)的調(diào)優(yōu)
對于workers,并不是越大越好,太大時gpu其實處理不過來,訓練速度一樣,但虛擬內(nèi)存(磁盤空間)會成倍占用。
workers為4時的內(nèi)存占用
workers為8時的內(nèi)存占用
我的顯卡是rtx3050,實際使用中上到4以上就差別不大了,gpu完全吃滿了。但是如果設(shè)置得太小,gpu會跑不滿。比如當workers=1時,顯卡功耗只得72W,速度慢了一半;workers=4時,顯卡功耗能上到120+w,完全榨干了顯卡的算力。所以需要根據(jù)你實際的算力調(diào)整這個參數(shù)。
2. 對于batch-size,有點玄學。理論是能盡量跑滿顯存為佳,但實際測試下來,發(fā)現(xiàn)當為8的倍數(shù)時效率更高一點。就是32時的訓練效率會比34的高一點,這里就不太清楚原理是什么了,實際操作下來是這樣。
總結(jié)
以上參數(shù)的調(diào)整能最大化顯卡的使用效率,其中的具體數(shù)值和電腦的實際配置還有模型大小、數(shù)據(jù)集大小有關(guān),需要根據(jù)實際情況反復調(diào)整。當然,要實質(zhì)提升訓練速度,還是得有好顯卡(鈔能力)~~~~
相關(guān)文章
Python中unittest的數(shù)據(jù)驅(qū)動詳解
這篇文章主要介紹了Python中unittest的數(shù)據(jù)驅(qū)動詳解,數(shù)據(jù)驅(qū)動測試,是一種單元測試框架,文章圍繞主題展開詳細的內(nèi)容介紹,具有一定的參考價值,需要的小伙伴可以參考一下2022-08-08python數(shù)據(jù)結(jié)構(gòu)之二叉樹的建立實例
這篇文章主要介紹了python數(shù)據(jù)結(jié)構(gòu)之二叉樹的建立實例,采用了類似遞歸方式建立,需要的朋友可以參考下2014-04-04Python 在 VSCode 中使用 IPython Kernel 的方法詳解
這篇文章主要介紹了Python 在 VSCode 中使用 IPython Kernel 的方法,本文通過實例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-09-09tensorflow可視化Keras框架中Tensorboard使用示例
這篇文章主要為大家介紹了tensorflow可視化Keras框架中Tensorboard使用示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2022-05-05pycharm中連接mysql數(shù)據(jù)庫的步驟詳解
在進行Python研發(fā)的時候,pycharm是一個很好的IDE,下面這篇文章主要給大家介紹了pycharm中連接mysql數(shù)據(jù)庫的步驟,文中通過圖文介紹的非常詳細,對大家具有一定的參考價值,需要的朋友們下面來一起看看吧。2017-05-05pyinstaller參數(shù)介紹以及總結(jié)詳解
這篇文章主要介紹了pyinstaller參數(shù)介紹以及總結(jié)詳解,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2019-07-07python flask幾分鐘實現(xiàn)web服務(wù)的例子
今天小編就為大家分享一篇python flask幾分鐘實現(xiàn)web服務(wù)的例子,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07