pytorch方法測(cè)試——激活函數(shù)(ReLU)詳解
測(cè)試代碼:
import torch
import torch.nn as nn
#inplace為T(mén)rue,將會(huì)改變輸入的數(shù)據(jù) ,否則不會(huì)改變?cè)斎?,只?huì)產(chǎn)生新的輸出
m = nn.ReLU(inplace=True)
input = torch.randn(7)
print("輸入處理前圖片:")
print(input)
output = m(input)
print("ReLU輸出:")
print(output)
print("輸出的尺度:")
print(output.size())
print("輸入處理后圖片:")
print(input)
輸出為:
輸入處理前圖片:
tensor([ 1.4940, 1.0278, -1.9883, -0.1871, 0.4612, 0.0297, 2.4300])
ReLU輸出:
tensor([ 1.4940, 1.0278, 0.0000, 0.0000, 0.4612, 0.0297, 2.4300])
輸出的尺度:
torch.Size([7])
輸入處理后圖片:
tensor([ 1.4940, 1.0278, 0.0000, 0.0000, 0.4612, 0.0297, 2.4300])
結(jié)論:
nn.ReLU(inplace=True)
inplace為T(mén)rue,將會(huì)改變輸入的數(shù)據(jù) ,否則不會(huì)改變?cè)斎耄粫?huì)產(chǎn)生新的輸出
以上這篇pytorch方法測(cè)試——激活函數(shù)(ReLU)詳解就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
- pytorch/transformers?最后一層不加激活函數(shù)的原因分析
- python人工智能tensorflow常用激活函數(shù)Activation?Functions
- YOLO v4常見(jiàn)的非線性激活函數(shù)詳解
- python 深度學(xué)習(xí)中的4種激活函數(shù)
- 使用keras實(shí)現(xiàn)非線性回歸(兩種加激活函數(shù)的方式)
- Keras 中Leaky ReLU等高級(jí)激活函數(shù)的用法
- tensorflow自定義激活函數(shù)實(shí)例
- 詳解Python中常用的激活函數(shù)(Sigmoid、Tanh、ReLU等)
相關(guān)文章
深入探究Python Numba庫(kù)編譯優(yōu)化利器
這篇文章主要為大家介紹了Python Numba庫(kù)編譯優(yōu)化利器深入探究,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2024-01-01
Python學(xué)習(xí)之私有函數(shù),私有變量及封裝詳解
私有函數(shù)與私有變量中的私有就是獨(dú)自擁有、不公開(kāi)、不分享的意思。放到函數(shù)與變量中就是獨(dú)自擁有的函數(shù)與獨(dú)自擁有的變量,并且不公開(kāi)。本文將通過(guò)示例詳細(xì)講解Python中的私有函數(shù)、私有變量及封裝,感興趣的可以學(xué)習(xí)一下2022-03-03
python des,aes,rsa加解密的實(shí)現(xiàn)
這篇文章主要介紹了python des,aes,rsa加解密的實(shí)現(xiàn),幫助大家更好的理解和使用python,感興趣的朋友可以了解下2021-01-01
python實(shí)現(xiàn)每次處理一個(gè)字符的三種方法
這篇文章主要介紹了python實(shí)現(xiàn)每次處理一個(gè)字符的三種方法,是非常實(shí)用的字符串操作技巧,需要的朋友可以參考下2014-10-10
在import scipy.misc 后找不到 imsave的解決方案
這篇文章主要介紹了在import scipy.misc 后找不到 imsave的解決方案,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2021-05-05
pytorch cnn 識(shí)別手寫(xiě)的字實(shí)現(xiàn)自建圖片數(shù)據(jù)
這篇文章主要介紹了pytorch cnn 識(shí)別手寫(xiě)的字實(shí)現(xiàn)自建圖片數(shù)據(jù),小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2018-05-05

