pytorch神經(jīng)網(wǎng)絡之卷積層與全連接層參數(shù)的設置方法
當使用pytorch寫網(wǎng)絡結構的時候,本人發(fā)現(xiàn)在卷積層與第一個全連接層的全連接層的input_features不知道該寫多少?一開始本人的做法是對著pytorch官網(wǎng)的公式推,但是總是算錯。
后來發(fā)現(xiàn),寫完卷積層后可以根據(jù)模擬神經(jīng)網(wǎng)絡的前向傳播得出這個。
全連接層的input_features是多少。首先來看一下這個簡單的網(wǎng)絡。這個卷積的Sequential本人就不再啰嗦了,現(xiàn)在看nn.Linear(???, 4096)這個全連接層的第一個參數(shù)該為多少呢?
請看下文詳解。
class AlexNet(nn.Module): def __init__(self): super(AlexNet, self).__init__() self.conv = nn.Sequential( nn.Conv2d(3, 96, kernel_size=11, stride=4), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2), nn.Conv2d(96, 256, kernel_size=5, padding=2), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2), nn.Conv2d(256, 384, kernel_size=3, padding=1), nn.ReLU(inplace=True), nn.Conv2d(384, 384, kernel_size=3, padding=1), nn.ReLU(inplace=True), nn.Conv2d(384, 256, kernel_size=3, padding=1), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2) ) self.fc = nn.Sequential( nn.Linear(???, 4096) ...... ...... )
首先,我們先把forward寫一下:
def forward(self, x): x = self.conv(x) print x.size()
就寫到這里就可以了。其次,我們初始化一下網(wǎng)絡,隨機一個輸入:
import torch from Alexnet.AlexNet import * from torch.autograd import Variable if __name__ == '__main__': net = AlexNet() data_input = Variable(torch.randn([1, 3, 96, 96])) # 這里假設輸入圖片是96x96 print data_input.size() net(data_input)
結果如下:
(1L, 3L, 96L, 96L) (1L, 256L, 1L, 1L)
顯而易見,咱們這個全連接層的input_features為256。
以上這篇pytorch神經(jīng)網(wǎng)絡之卷積層與全連接層參數(shù)的設置方法就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關文章
Window環(huán)境下Scrapy開發(fā)環(huán)境搭建
這篇文章主要介紹了Window環(huán)境下Scrapy開發(fā)環(huán)境搭建,需要的朋友可以參考下2018-11-11python+selenium+Chrome options參數(shù)的使用
這篇文章主要介紹了python+selenium+Chrome options參數(shù)的使用,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-03-03Windows下的Jupyter Notebook 安裝與自定義啟動(圖文詳解)
這篇文章主要介紹了Windows下的Jupyter Notebook 安裝與自定義啟動(圖文詳解),需要的朋友可以參考下2018-02-02詳解python如何調(diào)用C/C++底層庫與互相傳值
Python作為一門腳本解釋語言,本身又很好的結合C++,所以使用Python開發(fā),在性能要求的地方調(diào)用C/C++底層庫,這簡直是神器。本文詳細介紹了Python調(diào)用C/C++底層庫,互相傳值問題,下面一起來看看。2016-08-08使用Jupyter notebooks上傳文件夾或大量數(shù)據(jù)到服務器
這篇文章主要介紹了使用Jupyter notebooks上傳文件夾或大量數(shù)據(jù)到服務器,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-04-04