Pytorch卷積層手動初始化權(quán)值的實(shí)例
由于研究關(guān)系需要自己手動給卷積層初始化權(quán)值,但是好像博客上提到的相關(guān)文章比較少(大部分都只提到使用nn.init里的按照一定分布初始化方法),自己參考了下Pytorch的官方文檔,發(fā)現(xiàn)有兩種方法吧。
所以mark下。
import torch import torch.nn as nn import torch.optim as optim import numpy as np # 第一一個卷積層,我們可以看到它的權(quán)值是隨機(jī)初始化的 w=torch.nn.Conv2d(2,2,3,padding=1) print(w.weight) # 第一種方法 print("1.使用另一個Conv層的權(quán)值") q=torch.nn.Conv2d(2,2,3,padding=1) # 假設(shè)q代表一個訓(xùn)練好的卷積層 print(q.weight) # 可以看到q的權(quán)重和w是不同的 w.weight=q.weight # 把一個Conv層的權(quán)重賦值給另一個Conv層 print(w.weight) # 第二種方法 print("2.使用來自Tensor的權(quán)值") ones=torch.Tensor(np.ones([2,2,3,3])) # 先創(chuàng)建一個自定義權(quán)值的Tensor,這里為了方便將所有權(quán)值設(shè)為1 w.weight=torch.nn.Parameter(ones) # 把Tensor的值作為權(quán)值賦值給Conv層,這里需要先轉(zhuǎn)為torch.nn.Parameter類型,否則將報錯 print(w.weight)
效果預(yù)覽
以上這篇Pytorch卷積層手動初始化權(quán)值的實(shí)例就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
Pandas數(shù)據(jù)清洗函數(shù)總結(jié)
本文主要介紹了Pandas數(shù)據(jù)清洗函數(shù)總結(jié),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-01-01六種酷炫Python運(yùn)行進(jìn)度條效果的實(shí)現(xiàn)代碼
這篇文章主要介紹了六種酷炫Python運(yùn)行進(jìn)度條的實(shí)現(xiàn)代碼,本文通過實(shí)例圖文相結(jié)合給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-07-07Pytorch中transforms.Resize()的簡單使用
這篇文章主要介紹了Pytorch中transforms.Resize()的簡單使用方式,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-07-07python中的psutil模塊詳解(cpu、內(nèi)存、磁盤情況、結(jié)束指定進(jìn)程)
這篇文章主要介紹了python中的psutil(cpu、內(nèi)存、磁盤情況、結(jié)束指定進(jìn)程),本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-04-04