快捷導(dǎo)航

Pytorch中實(shí)現(xiàn)CPU和GPU之間的切換的兩種方法

更新時間：2023年01月28日 10:44:50 作者：三個刺客

本文主要介紹了Pytorch中實(shí)現(xiàn)CPU和GPU之間的切換的兩種方法，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧

# 創(chuàng)建網(wǎng)絡(luò)模型
tudui = Tudui()
if torch.cuda.is_available():
   tudui = tudui.cuda()
 
# 損失函數(shù)
loss_fn = nn.CrossEntropyLoss()
if torch.cuda.is_available():
    loss_fn = loss_fn.cuda()
 
# 數(shù)據(jù)輸入   包括訓(xùn)練和測試的代碼，二者都需要添加此代碼
if torch.cuda.is_available():
   imgs = imgs.cuda()
   targets = targets.cuda()

方法一：.to(device)

1.不知道電腦GPU可不可用時：

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu' )
a.to(device)

第一行代碼的意思是判斷電腦GPU可不可用，如果可用的話device就采用cuda()即調(diào)用GPU，不可用的話就采用cpu()即調(diào)用CPU。

第二行代碼的意思就是把變量放到對應(yīng)的device上（當(dāng)然如果你用的是CPU的話就不用這一步了，因?yàn)樽兞磕J(rèn)是存在CPU上的，調(diào)用GPU的話要先把變量放到GPU上跑，跑完之后再調(diào)回CPU上）

２.指定GPU時

# 定義訓(xùn)練的設(shè)備
device = torch.device("cuda:0")
 
# 網(wǎng)絡(luò)模型創(chuàng)建
tudui = Tudui()
tudui = tudui.to(device)
 
# 損失函數(shù)
loss_fn = nn.CrossEntropyLoss()
loss_fn = loss_fn.to(device)
 
# 訓(xùn)練步驟開始
    tudui.train()
    for data in train_dataloader:
        imgs, targets=data
        imgs = imgs.to(device)
        targets = targets.to(device)
        outputs = tudui(imgs)
        loss = loss_fn(outputs, targets)
 
# 測試步驟開始
    tudui.eval()
    total_test_loss = 0
    total_accuracy = 0
    with torch.no_grad():
        for data in test_dataloader:
            imgs, targets=data
            imgs = imgs.to(device)
            targets = targets.to(device)
            outputs = tudui(imgs)
            loss = loss_fn(outputs, targets)
            total_test_loss = total_test_loss + loss.item()
            accuracy = (outputs.argmax(1)==targets).sum()
            total_accuracy = total_accuracy + accuracy

3.指定cpu時：

device = torch.device('cpu')

方法二：

1、需要修改的

# 三種常見的寫法
device = torch.device('cuda')
device = torch.device('cuda: 0')
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

2、代碼

# 創(chuàng)建模型
tudui = Tudui()
if torch.cuda.is_available():
   tudui = tudui.cuda()
 
# 損失函數(shù)
loss_fn = nn.CrossEntropyLoss()
if torch.cuda.is_available():
    loss_fn = loss_fn.cuda()
 
# 訓(xùn)練步驟開始
    tudui.train()
    for data in train_dataloader:
        imgs, targets=data
        if torch.cuda.is_available():
            imgs = imgs.cuda()
            targets = targets.cuda()
        outputs = tudui(imgs)
        loss = loss_fn(outputs, targets)
 
 # 測試步驟開始
    tudui.eval()
    total_test_loss = 0
    total_accuracy = 0
    with torch.no_grad():
        for data in test_dataloader:
            imgs, targets=data
            if torch.cuda.is_available():
                imgs = imgs.cuda()
                targets = targets.cuda()
            outputs = tudui(imgs)
            loss = loss_fn(outputs, targets)
            total_test_loss = total_test_loss + loss.item()
            accuracy = (outputs.argmax(1)==targets).sum()
            total_accuracy = total_accuracy + accuracy