Pytorch獲取無梯度TorchTensor中的值
獲取無梯度Tensor
遇到的問題:
使用兩個網絡并行運算,一個網絡的輸出值要給另一個網絡反饋。而反饋的輸出值帶有網絡權重的梯度,即grad_fn=<XXXBackward0>.
這時候如果把反饋值扔到第二網絡中更新,會出現(xiàn)第一個計算圖丟失無法更新的錯誤。哎喲喂,我根本不需要第一個網絡的梯度好嗎?
一開始用了一個笨辦法,先轉numpy,然后再轉回torch.Tensor。因為numpy數(shù)據是不帶梯度的。
但是我的原始tensor的放在cuda上的,
cuda的張量是不能直接轉Tensor,所以
t_error = td_error.cuda().data.cpu().numpy() t_error = torch.FloatTensor(t_error).to(device)
從cuda轉回了cpu,變成numpy,又轉成了tensor,又回到了cuda上,坑爹呢這是,可能只有我才能寫出如此低效的辣雞代碼了。
后來發(fā)現(xiàn),其實直接在返回的時候添加
with torch.no_grad(): td_error = reward + GAMMA * v_ - v
即可.
補充:在pytorch中取一個tensor的均值,然后該張量中的所有值與其對比!
Pytorch中的Tensor的shape是(B, C, W, H),
對該tensor取均值并與所有值做對比代碼如下:
C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3] for c in range(C): mean = torch.mean(x[0][c]) for h in range(H): for w in range(W): if x[0][c][h][w] >= mean: x[0][c][h][w] = mean
以上為個人經驗,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關文章
Python實現(xiàn)二分法查找及優(yōu)化的示例詳解
二分查找法(Binary?Search)是一種在有序數(shù)組中查找某一特定元素的算法,在本文中,我們將使用?Python?實現(xiàn)二分查找算法,并深入探討算法的原理和實現(xiàn)細節(jié),感興趣的可以了解一下2023-04-04詳解使用Pytorch Geometric實現(xiàn)GraphSAGE模型
這篇文章主要為大家介紹了詳解使用Pytorch Geometric實現(xiàn)GraphSAGE模型示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2023-04-04python3+PyQt5 創(chuàng)建多線程網絡應用-TCP客戶端和TCP服務器實例
今天小編就為大家分享一篇python3+PyQt5 創(chuàng)建多線程網絡應用-TCP客戶端和TCP服務器實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-06-06