快捷導(dǎo)航

PyTorch中 tensor.detach() 和 tensor.data 的區(qū)別詳解

更新時間：2020年01月06日 14:46:20 作者：夢家

今天小編就為大家分享一篇PyTorch中 tensor.detach() 和 tensor.data 的區(qū)別詳解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧

PyTorch0.4中，.data 仍保留，但建議使用 .detach(), 區(qū)別在于 .data 返回和 x 的相同數(shù)據(jù) tensor, 但不會加入到x的計算歷史里，且require s_grad = False, 這樣有些時候是不安全的, 因為 x.data 不能被 autograd 追蹤求微分。

.detach() 返回相同數(shù)據(jù)的 tensor ,且 requires_grad=False ,但能通過 in-place 操作報告給 autograd 在進(jìn)行反向傳播的時候.

舉例：

tensor.data

>>> a = torch.tensor([1,2,3.], requires_grad =True)
>>> out = a.sigmoid()
>>> c = out.data
>>> c.zero_()
tensor([ 0., 0., 0.])

>>> out     # out的數(shù)值被c.zero_()修改
tensor([ 0., 0., 0.])

>>> out.sum().backward() # 反向傳播
>>> a.grad    # 這個結(jié)果很嚴(yán)重的錯誤，因為out已經(jīng)改變了
tensor([ 0., 0., 0.])

tensor.detach()

>>> a = torch.tensor([1,2,3.], requires_grad =True)
>>> out = a.sigmoid()
>>> c = out.detach()
>>> c.zero_()
tensor([ 0., 0., 0.])

>>> out     # out的值被c.zero_()修改 !!
tensor([ 0., 0., 0.])

>>> out.sum().backward() # 需要原來out得值，但是已經(jīng)被c.zero_()覆蓋了，結(jié)果報錯
RuntimeError: one of the variables needed for gradient
computation has been modified by an

以上這篇PyTorch中 tensor.detach() 和 tensor.data 的區(qū)別詳解就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。

您可能感興趣的文章:

相關(guān)文章

torch.utils.data.DataLoader與迭代器轉(zhuǎn)換操作
這篇文章主要介紹了torch.utils.data.DataLoader與迭代器轉(zhuǎn)換操作，文章內(nèi)容接受非常詳細(xì)，對正在學(xué)習(xí)或工作的你有一定的幫助,需要的朋友可以參考一下
2022-02-02
表格梳理python內(nèi)置數(shù)學(xué)模塊math分析詳解
這篇文章主要為大家介紹了python內(nèi)置數(shù)學(xué)模塊math的分析詳解，文中通過表格梳理的方式以便讓大家在學(xué)習(xí)過程中一目望去清晰明了，有需要的朋友可以借鑒參考下
2021-10-10
python正則實現(xiàn)提取電話功能
這篇文章主要為大家詳細(xì)介紹了python正則實現(xiàn)提取電話功能，具有一定的參考價值，感興趣的小伙伴們可以參考一下
2018-02-02
用Python自動清理電腦內(nèi)重復(fù)文件,只要10行代碼(自動腳本)
這篇文章主要介紹了用Python自動清理電腦內(nèi)重復(fù)文件,只要10行代碼,本文給大家介紹的非常詳細(xì)，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下
2021-01-01
python通過http下載文件的方法詳解
這篇文章主要介紹了python通過http下載文件的方法詳解,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下
2019-07-07
python opencv實現(xiàn)切變換不裁減圖片
這篇文章主要為大家詳細(xì)介紹了python opencv實現(xiàn)切變換，不裁減圖片，具有一定的參考價值，感興趣的小伙伴們可以參考一下
2018-07-07
面向?qū)ο髮W(xué)習(xí)之pygame坦克大戰(zhàn)
這篇文章主要為大家詳細(xì)介紹了面向?qū)ο髮W(xué)習(xí)之pygame坦克大戰(zhàn)，具有一定的參考價值，感興趣的小伙伴們可以參考一下
2019-09-09
python面向?qū)ο蠖嗑€程爬蟲爬取搜狐頁面的實例代碼
這篇文章主要介紹了python面向?qū)ο蠖嗑€程爬蟲爬取搜狐頁面的實例代碼,需要的朋友可以參考下
2018-05-05
Python @property使用方法解析
這篇文章主要介紹了Python @property使用方法解析,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下
2019-09-09
快速解決jupyter notebook啟動需要密碼的問題
這篇文章主要介紹了快速解決jupyter notebook啟動需要密碼的問題，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2020-04-04