關(guān)于nn.BatchNorm1d()用法及說(shuō)明
nn.BatchNorm1d()用法
torch.nn.BatchNorm1d(num_features, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
num_features
– 特征維度eps
– 為數(shù)值穩(wěn)定性而加到分母上的值。momentum
– 移動(dòng)平均的動(dòng)量值。affine
–一個(gè)布爾值,當(dāng)設(shè)置為真時(shí),此模塊具有可學(xué)習(xí)的仿射參數(shù)。
這里其他幾個(gè)參數(shù)都不重要,只需要看num_features就可以了。
num_features就是你需要?dú)w一化的那一維的維度。
nn.BatchNorm1d本身不是給定輸入矩陣,輸出歸一化結(jié)果的函數(shù),而是定義了一個(gè)方法,再用這個(gè)方法去做歸一化。
BN = nn.BatchNorm1d(100) input = torch.randn(20, 100) output = m(input)
我們首先定義了一個(gè)歸一化的函數(shù)BN,需要?dú)w一化的維度為100,其他參數(shù)為默認(rèn)。
然后隨機(jī)初始化一個(gè)20×100的矩陣input,再用BN對(duì)這個(gè)矩陣歸一化。
函數(shù)的input可以是二維或者三維。
- 當(dāng)input的維度為(N, C)時(shí),BN將對(duì)C維歸一化;
- 當(dāng)input的維度為(N, C, L) 時(shí),歸一化的維度同樣為C維。
使用nn.BatchNorm1d出現(xiàn)RuntimeError
pytorch模型中添加batchnorm過(guò)程中出現(xiàn)錯(cuò)誤
RuntimeError: running_mean should contain 1 elements not 512
錯(cuò)誤來(lái)自于nn.BatchNorm1d(N),其中N=channels
解決辦法
將輸入重新排列
video = video.view(-1, video.shape[-1])
總結(jié)
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
python常用模塊(math itertools functools sys
這篇文章主要介紹了python常用模塊之math itertools functools sys shutil的使用示例講解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-06-06Python中input和raw_input的一點(diǎn)區(qū)別
這篇文章主要介紹了Python中input和raw_input的一點(diǎn)區(qū)別,它們都是用來(lái)讀取控制臺(tái)輸入的函數(shù),需要的朋友可以參考下2014-10-10使用Python開(kāi)發(fā)一個(gè)PDF文本提取工具
在日常工作中,我們經(jīng)常需要從PDF文檔中提取文本內(nèi)容,雖然市面上有不少相關(guān)工具,但它們要么功能過(guò)于復(fù)雜,要么使用不夠方便,本文將介紹如何使用Python開(kāi)發(fā)一個(gè)簡(jiǎn)單實(shí)用的PDF文本提取工具,需要的朋友可以參考下2025-02-02用Python中的字典來(lái)處理索引統(tǒng)計(jì)的方法
這篇文章主要介紹了用Python中的字典來(lái)處理索引統(tǒng)計(jì)的方法,字典的使用是Python學(xué)習(xí)當(dāng)中的基礎(chǔ)知識(shí),本文則是相關(guān)的一個(gè)小實(shí)踐,需要的朋友可以參考下2015-05-05Pytorch實(shí)現(xiàn)WGAN用于動(dòng)漫頭像生成
這篇文章主要介紹了Pytorch實(shí)現(xiàn)WGAN用于動(dòng)漫頭像生成,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-03-03基于Python制作一個(gè)端午節(jié)相關(guān)的小游戲
端午節(jié)快樂(lè),今天我將為大家?guī)?lái)一篇有關(guān)端午節(jié)的編程文章,希望能夠?yàn)榇蠹耀I(xiàn)上一份小小的驚喜,我們將會(huì)使用Python來(lái)實(shí)現(xiàn)一個(gè)與端午粽子相關(guān)的小應(yīng)用程序,在本文中,我將會(huì)介紹如何用Python代碼制做一個(gè)“粽子拆解器”,感興趣的小伙伴歡迎閱讀2023-06-06python flask sqlalchemy連接數(shù)據(jù)庫(kù)流程介紹
這篇文章主要介紹了python flask sqlalchemy連接數(shù)據(jù)庫(kù)流程,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2022-09-09python3 pandas 讀取MySQL數(shù)據(jù)和插入的實(shí)例
下面小編就為大家分享一篇python3 pandas 讀取MySQL數(shù)據(jù)和插入的實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-04-04