pytorch 實現(xiàn)在測試的時候啟用dropout
更新時間：2021年05月27日 10:07:17 作者：qian99
這篇文章主要介紹了pytorch 實現(xiàn)在測試的時候啟用dropout的操作，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教
我們知道，dropout一般都在訓(xùn)練的時候使用，那么測試的時候如何也開啟dropout呢？
在pytorch中，網(wǎng)絡(luò)有train和eval兩種模式，在train模式下，dropout和batch normalization會生效，而val模式下，dropout不生效，bn固定參數(shù)。
想要在測試的時候使用dropout，可以把dropout單獨設(shè)為train模式，這里可以使用apply函數(shù)：
def apply_dropout(m):
if type(m) == nn.Dropout:
m.train()
下面是完整demo代碼：
# coding: utf-8
import torch
import torch.nn as nn
import numpy as np
class SimpleNet(nn.Module):
def __init__(self):
super(SimpleNet, self).__init__()
self.fc = nn.Linear(8, 8)
self.dropout = nn.Dropout(0.5)
def forward(self, x):
x = self.fc(x)
x = self.dropout(x)
return x
net = SimpleNet()
x = torch.FloatTensor([1]*8)
net.train()
y = net(x)
print('train mode result: ', y)
net.eval()
y = net(x)
print('eval mode result: ', y)
net.eval()
y = net(x)
print('eval2 mode result: ', y)
def apply_dropout(m):
if type(m) == nn.Dropout:
m.train()
net.eval()
net.apply(apply_dropout)
y = net(x)
print('apply eval result:', y)
運行結(jié)果：
可以看到，在eval模式下，由于dropout未生效，每次跑的結(jié)果不同，利用apply函數(shù)，將Dropout單獨設(shè)為train模式，dropout就生效了。
補充：Pytorch之dropout避免過擬合測試
一.做數(shù)據(jù)
二.搭建神經(jīng)網(wǎng)絡(luò)
三.訓(xùn)練
四.對比測試結(jié)果
注意：測試過程中，一定要注意模式切換
以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
DjangoUeditor圖片不顯示img的src沒有域名問題
在使用DjangoUeditor過程中,可能遇到圖片上傳后不顯示問題,解決辦法是修改源碼view.py,加入代碼使得保存的圖片URL帶有協(xié)議和域名,具體做法是在保存圖片代碼中添加request.scheme獲取協(xié)議,request.META['HTTP_HOST']獲取域名2024-09-09
這篇文章主要給大家介紹了關(guān)于Linux系統(tǒng)下升級pip的完整步驟，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-01-01
這篇文章主要為大家詳細介紹了python實現(xiàn)碑帖圖片橫向拼接，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-03-03
大家好，本篇文章主要講的是用python畫個奧運五環(huán)（附完整代碼），感興趣的同學(xué)趕快來看一看吧，對你有幫助的話記得收藏一下2022-01-01
這篇文章主要介紹了python 字典修改鍵(key)的幾種方法，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2018-08-08
Python任務(wù)調(diào)度模塊APScheduler使用
這篇文章主要介紹了Python任務(wù)調(diào)度模塊APScheduler使用,文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-04-04
這篇文章主要介紹了tensorflow的計算圖總結(jié)，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-01-01
這篇文章主要介紹了詳解flask表單提交的兩種方式，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2018-07-07
下面小編就為大家分享一篇python判斷一個集合是否為另一個集合的子集方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-05-05
鏈表是計算機科學(xué)里面應(yīng)用最廣泛的數(shù)據(jù)結(jié)構(gòu)之一。這篇文章主要介紹了使用python實現(xiàn)鏈表操作,需要的朋友可以參考下2018-01-01