Pytorch保存模型用于測(cè)試和用于繼續(xù)訓(xùn)練的區(qū)別詳解
保存模型
保存模型僅僅是為了測(cè)試的時(shí)候,只需要
torch.save(model.state_dict, path)
path 為保存的路徑
但是有時(shí)候模型及數(shù)據(jù)太多,難以一次性訓(xùn)練完的時(shí)候,而且用的還是 Adam優(yōu)化器的時(shí)候, 一定要保存好訓(xùn)練的優(yōu)化器參數(shù)以及epoch
state = { 'model': model.state_dict(), 'optimizer':optimizer.state_dict(), 'epoch': epoch } torch.save(state, path)
因?yàn)檫@里
def adjust_learning_rate(optimizer, epoch): lr_t = lr lr_t = lr_t * (0.3 ** (epoch // 2)) for param_group in optimizer.param_groups: param_group['lr'] = lr_t
學(xué)習(xí)率是根據(jù)epoch變化的, 如果不保存epoch的話,基本上每次都從epoch為0開始訓(xùn)練,這樣學(xué)習(xí)率就相當(dāng)于不變了!!
恢復(fù)模型
恢復(fù)模型只用于測(cè)試的時(shí)候,
model.load_state_dict(torch.load(path))
path為之前存儲(chǔ)模型時(shí)的路徑
但是如果是用于繼續(xù)訓(xùn)練的話,
checkpoint = torch.load(path) model.load_state_dict(checkpoint['model']) optimizer.load_state_dict(checkpoint['optimizer']) start_epoch = checkpoint['epoch']+1
依次恢復(fù)出模型 優(yōu)化器參數(shù)以及epoch
以上這篇Pytorch保存模型用于測(cè)試和用于繼續(xù)訓(xùn)練的區(qū)別詳解就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python實(shí)現(xiàn)封裝打包自己寫的代碼,被python import
這篇文章主要介紹了Python實(shí)現(xiàn)封裝打包自己寫的代碼,被python import,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-07-07Python自動(dòng)化辦公之讀取Excel數(shù)據(jù)的實(shí)現(xiàn)
這篇文章主要為大家詳細(xì)介紹了如何通過Python實(shí)現(xiàn)Excel數(shù)據(jù)的讀取,文中的示例代碼講解詳細(xì),對(duì)我們學(xué)習(xí)有一定幫助,需要的可以參考一下2022-05-05使用Python進(jìn)行用戶畫像構(gòu)建的示例詳解
用戶畫像,又稱為用戶檔案或客戶畫像,是一種通過收集和分析用戶的行為、偏好、需求等多維度信息,本文主要介紹了如何使用Python進(jìn)行用戶畫像的構(gòu)建,需要的可以參考下2024-10-10使用Python實(shí)現(xiàn)獲取文件詳細(xì)信息
Python提供了豐富的內(nèi)置模塊和函數(shù),獲取和操作文件的各種屬性信息,比如大小、修改時(shí)間、權(quán)限以及路徑等,本文將通過詳細(xì)的示例代碼展示如何使用Python中的os和os.path模塊來獲取文件屬性信息,需要的可以參考下2023-12-12python pydoc生成API文檔的實(shí)現(xiàn)
pydoc?模塊會(huì)根據(jù) Python 模塊來自動(dòng)生成文檔,本文主要介紹了python pydoc生成API文檔的實(shí)現(xiàn),具有一定的參考價(jià)值,感興趣的可以了解一下2023-12-12python實(shí)現(xiàn)圖片處理和特征提取詳解
這篇文章主要介紹了python實(shí)現(xiàn)圖片處理和特征提取詳解,文中向大家分享了Python導(dǎo)入圖片,將圖像轉(zhuǎn)化為二維矩陣,模糊化圖片等Python對(duì)圖像的操作,具有一定參考價(jià)值,需要的朋友可以了解下。2017-11-11解決python3.6 右鍵沒有 Edit with IDLE的問題
這篇文章主要介紹了解決python3.6 右鍵沒有 Edit with IDLE的問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-03-03Python使用xpath對(duì)解析內(nèi)容進(jìn)行數(shù)據(jù)提取
XPath 使用路徑表達(dá)式來選取HTML/ XML 文檔中的節(jié)點(diǎn)或節(jié)點(diǎn)集,節(jié)點(diǎn)是通過沿著路徑 (path) 或者步 (steps) 來選取的,本文將給大家介紹Python使用xpath對(duì)解析內(nèi)容進(jìn)行數(shù)據(jù)提取的方法,需要的朋友可以參考下2024-05-05python嵌套函數(shù)使用外部函數(shù)變量的方法(Python2和Python3)
這篇文章主要介紹了python嵌套函數(shù)使用外部函數(shù)變量的方法,需要的朋友可以參考下2016-01-01