pytorch的batch normalize使用詳解
torch.nn.BatchNorm1d()
1、BatchNorm1d(num_features, eps = 1e-05, momentum=0.1, affine=True)
對(duì)于2d或3d輸入進(jìn)行BN。在訓(xùn)練時(shí),該層計(jì)算每次輸入的均值和方差,并進(jìn)行平行移動(dòng)。移動(dòng)平均默認(rèn)的動(dòng)量為0.1。在驗(yàn)證時(shí),訓(xùn)練求得的均值/方差將用于標(biāo)準(zhǔn)化驗(yàn)證數(shù)據(jù)。
num_features:表示輸入的特征數(shù)。該期望輸入的大小為'batch_size x num_features [x width]'
Shape: - 輸入:(N, C)或者(N, C, L) - 輸出:(N, C)或者(N,C,L)(輸入輸出相同)
2、BatchNorm2d(同上)
對(duì)3d數(shù)據(jù)組成的4d輸入進(jìn)行BN。
num_features: 來(lái)自期望輸入的特征數(shù),該期望輸入的大小為'batch_size x num_features x height x width'
Shape: - 輸入:(N, C,H, W) - 輸出:(N, C, H, W)(輸入輸出相同)
3、BatchNorm3d(同上)
對(duì)4d數(shù)據(jù)組成的5d輸入進(jìn)行BN。
以上這篇pytorch的batch normalize使用詳解就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python操作MySQL數(shù)據(jù)庫(kù)的兩種方式實(shí)例分析【pymysql和pandas】
這篇文章主要介紹了Python操作MySQL數(shù)據(jù)庫(kù)的兩種方式,結(jié)合實(shí)例形式分析了Python使用pymysql和pandas模塊進(jìn)行mysql數(shù)據(jù)庫(kù)的連接、增刪改查等操作相關(guān)實(shí)現(xiàn)技巧,需要的朋友可以參考下2019-03-03python實(shí)現(xiàn)高精度求自然常數(shù)e過(guò)程詳解
這篇文章主要為大家介紹了python實(shí)現(xiàn)高精度求自然常數(shù)e過(guò)程詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-05-05python實(shí)現(xiàn)樹(shù)形打印目錄結(jié)構(gòu)
這篇文章主要為大家詳細(xì)介紹了python樹(shù)形打印目錄結(jié)構(gòu)的相關(guān)代碼,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-03-03Windows上使用virtualenv搭建Python+Flask開(kāi)發(fā)環(huán)境
在自己本機(jī)的開(kāi)發(fā)環(huán)境下,我們完全可以使用virtualenv來(lái)hold住多個(gè)Python環(huán)境,這樣就可以留出一個(gè)專門服役于Flask框架,哈哈,這里我們就來(lái)看看如何在Windows系統(tǒng)上使用virtualenv搭建Python+Flask開(kāi)發(fā)環(huán)境2016-06-06關(guān)于python3的ThreadPoolExecutor線程池大小設(shè)置
這篇文章主要介紹了關(guān)于python3的ThreadPoolExecutor線程池大小設(shè)置,線程池的理想大小取決于被提交任務(wù)的類型以及所部署系統(tǒng)的特性,需要的朋友可以參考下2023-04-04Python入門之實(shí)例方法、類方法和靜態(tài)方法的區(qū)別講解
這篇文章主要介紹了Python入門之實(shí)例方法、類方法和靜態(tài)方法的區(qū)別講解,實(shí)例方法是在創(chuàng)建了類的實(shí)例之后才能被調(diào)用的方法,類方法是在不需要?jiǎng)?chuàng)建類的實(shí)例的情況下就可以調(diào)用的方法,最后,靜態(tài)方法是與類和類的實(shí)例都沒(méi)有綁定關(guān)系的方法,需要的朋友可以參考下2023-10-10Django數(shù)據(jù)庫(kù)(SQlite)基本入門使用教程
django有默認(rèn)自帶的數(shù)據(jù)庫(kù),當(dāng)然也可以用其他的數(shù)據(jù)庫(kù),下面這篇文章主要給大家介紹了關(guān)于Django數(shù)據(jù)庫(kù)(SQlite)基本入門使用教程的相關(guān)資料,需要的朋友可以參考下2022-07-07解決python路徑錯(cuò)誤,運(yùn)行.py文件,找不到路徑的問(wèn)題
這篇文章主要介紹了解決python路徑錯(cuò)誤,運(yùn)行.py文件,找不到路徑的問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2021-03-03python之Django自動(dòng)化資產(chǎn)掃描的實(shí)現(xiàn)
這篇文章主要介紹了python之Django自動(dòng)化資產(chǎn)掃描的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-04-04