淺談tensorflow與pytorch的相互轉換

更新時間：2022年06月28日 08:40:28 作者：wendy_ya

本文主要介紹了簡單介紹一下tensorflow與pytorch的相互轉換，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧

1.變量預定義

在TensorFlow的世界里，變量的定義和初始化是分開的。
tensorflow中一般都是在開頭預定義變量，聲明其數(shù)據(jù)類型、形狀等，在執(zhí)行的時候再賦具體的值，如下圖所示，而pytorch用到時才會定義，定義和變量初始化是合在一起的。

在這里插入圖片描述

2.創(chuàng)建變量并初始化

tensorflow中利用tf.Variable創(chuàng)建變量并進行初始化，而pytorch中使用torch.tensor創(chuàng)建變量并進行初始化，如下圖所示。

在這里插入圖片描述

3.語句執(zhí)行

在TensorFlow的世界里，變量的定義和初始化是分開的，所有關于圖變量的賦值和計算都要通過tf.Session的run來進行。

sess.run([G_solver, G_loss_temp, MSE_loss],
             feed_dict = {X: X_mb, M: M_mb, H: H_mb})

而在pytorch中，并不需要通過run進行，賦值完了直接計算即可。

4.tensor

pytorch運算時要創(chuàng)建完的numpy數(shù)組轉為tensor，如下：

if use_gpu is True:
	X_mb = torch.tensor(X_mb, device="cuda")
	M_mb = torch.tensor(M_mb, device="cuda")
	H_mb = torch.tensor(H_mb, device="cuda")
else:
	X_mb = torch.tensor(X_mb)
	M_mb = torch.tensor(M_mb)
	H_mb = torch.tensor(H_mb)

最后運行完還要將tensor數(shù)據(jù)類型轉換回numpy數(shù)組：

if use_gpu is True:
	imputed_data=imputed_data.cpu().detach().numpy()
else:
	imputed_data=imputed_data.detach().numpy()

而tensorflow中不需要這種操作。

5.其他函數(shù)

在tensorflow中包含諸多函數(shù)是pytorch中沒有的，但是都可以在其他庫中找到類似，具體如下表所示。

tensorflow中函數(shù)	pytorch中代替（所在庫）	參數(shù)區(qū)別
tf.sqrt	np.sqrt（numpy）	完全相同
tf.random_normal	np.random.normal（numpy）	tf.random_normal(shape = size, stddev = xavier_stddev) np.random.normal(size = size, scale = xavier_stddev)
tf.concat	torch.cat（torch）	inputs = tf.concat(values = [x, m], axis = 1) inputs = torch.cat(dim=1, tensors=[x, m])
tf.nn.relu	F.relu（torch.nn.functional）	完全相同
tf.nn.sigmoid	torch.sigmoid（torch）	完全相同
tf.matmul	torch.matmul（torch）	完全相同
tf.reduce_mean	torch.mean（torch）	完全相同
tf.log	torch.log（torch）	完全相同
tf.zeros	np.zeros	完全相同
tf.train.AdamOptimizer	torch.optim.Adam（torch）	optimizer_D = tf.train.AdamOptimizer().minimize(D_loss, var_list=theta_D) optimizer_D = torch.optim.Adam(params=theta_D)