train_data=torchvision.datasets.MNIST(
    root='MNIST',
    train=True,
    transform=torchvision.transforms.ToTensor(),
    download=True
)
test_data=torchvision.datasets.MNIST(
    root='MNIST',
    train=False,
    transform=torchvision.transforms.ToTensor(),
    download=True
)

train_load=DataLoader(dataset=train_data,batch_size=100,shuffle=True)
test_load=DataLoader(dataset=test_data,batch_size=100,shuffle=True)

train_x,train_y=next(iter(train_load))

img=torchvision.utils.make_grid(train_x,nrow=10)#將train_x賦給一個寬為10的網(wǎng)格
#因為cv2顯示的圖片格式是（size，size，channel），但是img格式為（channel，size，size）
img = img.numpy().transpose(1,2,0)
cv2.imshow('img', img)
cv2.waitKey()

# 導(dǎo)入numpy并為計算機的偽隨機數(shù)生成器設(shè)置種子開始
import numpy as np
np.random.seed(123)
'''
設(shè)置隨機數(shù)種子的主要目的是確保隨機結(jié)果可復(fù)現(xiàn)。
如果不設(shè)置隨機數(shù)種子,每次運行代碼時各種隨機操作的結(jié)果都會略微不同,導(dǎo)致實驗結(jié)果也不同,給實驗帶來不必要的變量。
設(shè)置隨機數(shù)種子后,每次運行代碼時各種隨機操作的初始化結(jié)果都會相同,所以運行結(jié)果也相同,確保了實驗的可復(fù)現(xiàn)性。
'''
#從Keras導(dǎo)入Sequential模型類型
from keras.models import Sequential
#從Keras層模塊中導(dǎo)入Dense、Dropout、Activation和Flatten四種層。
from keras.layers import Dense, Dropout, Activation, Flatten
'''
Sequential是Keras中最簡單的模型,它由多個網(wǎng)絡(luò)層線性堆疊而成。我們只需要將各種Keras層逐個添加到該模型中,即可構(gòu)建自己的網(wǎng)絡(luò)結(jié)構(gòu)。
四種Keras層的作用分別是:
- Dense:全連接層,用于連接網(wǎng)絡(luò)層之間的節(jié)點,實現(xiàn)函數(shù)擬合等作用。在分類和回歸任務(wù)中廣泛使用。
- Dropout:隨機置零層,用于在訓(xùn)練過程中隨機舍棄一定比例的節(jié)點,用于防止過擬合。
- Activation:激活層,用于對上一層的輸出施加非線性激活,如ReLU、sigmoid等。增強模型的表達能力。 
- Flatten:展平層,用于將輸入“壓平”,例如將多維輸入壓平為二維,以供全連接層使用。
所以,簡而言之,這四種Keras層的主要作用是:
- Dense:實現(xiàn)網(wǎng)絡(luò)連接,用于擬合和回歸 
- Dropout:實現(xiàn)隨機舍棄,用于正則化和防過擬合 
- Activation:實現(xiàn)非線性轉(zhuǎn)換,增強表達能力 
- Flatten:實現(xiàn)維度壓縮和reshape,以連串網(wǎng)絡(luò) 
這些層是構(gòu)建神經(jīng)網(wǎng)絡(luò)的基本模塊,我們可以像搭積木一樣組合這些層,構(gòu)建出自己想要的復(fù)雜網(wǎng)絡(luò)結(jié)構(gòu)。
'''
#從Keras導(dǎo)入CNN層，這些卷積層將幫助我們有效地訓(xùn)練圖像數(shù)據(jù)
from keras.layers import Conv2D, MaxPool2D
#導(dǎo)入一些實用程序
from keras.utils import np_utils
#加載keras庫的MNIST數(shù)據(jù)集
from keras.datasets import mnist
#載入數(shù)據(jù)集
(x_train, y_train), (x_test, y_test) = mnist.load_data()
#打印數(shù)據(jù)集的形狀
print(x_train.shape, y_train.shape)
#輸出結(jié)果顯示訓(xùn)練集中有60000個樣本，每個圖像都是28x28

#通過matplotlib繪制第一個樣本
from matplotlib import pyplot as plt
plt.imshow(x_train[0])

#使用Theano后端時，必須聲明輸入圖像的深度
#即將數(shù)據(jù)集的形狀從nx高x寬轉(zhuǎn)換為nx寬x高x深度
x_train = x_train.reshape(x_train.shape[0], 28, 28, 1)
x_test = x_test.reshape(x_test.shape[0], 28, 28, 1)
print(x_train.shape)

#輸入數(shù)據(jù)的最后預(yù)處理步驟是將數(shù)據(jù)類型轉(zhuǎn)換為float32并將我們的數(shù)據(jù)值規(guī)范化為[0, 1]
x_train = x_train.astype('float32')
x_test = x_test.astype('float32')
x_train /= 255
x_test /= 255

#看看類標(biāo)簽數(shù)據(jù)
print(y_train.shape)
#有十個不同的類，每個數(shù)字一個，看起來只有一個一維數(shù)組
print(y_train[:10])
#將一維類數(shù)組轉(zhuǎn)換為10維類矩陣
Y_train = np_utils.to_categorical(y_train, 10)
Y_test = np_utils.to_categorical(y_test, 10)
print(Y_train.shape)

#定義一個順序模型
model = Sequential()
#在一個模型中添加一個卷積層
'''
filters=32:使用32個卷積濾波器(卷積核)
kernel_size=(3, 3):每個濾波器的大小為3x3
activation='relu':激活函數(shù)采用ReLU
input_shape=(28, 28, 1):輸入數(shù)據(jù)的shape為28x28x1,這里1表示黑白圖像
'''
model.add(Conv2D(32, kernel_size=(3, 3), activation='relu', input_shape=(28, 28, 1)))
print(model.output_shape)


#再添加一個卷積層
'''
1、Conv2D層:二維卷積層,32個卷積核,核大小為3x3,激活函數(shù)為ReLU
2. MaxPool2D層:二維最大池化層,池化窗口大小為2x2
3. Dropout層:隨機舍棄25%的節(jié)點
'''
model.add(Conv2D(32, kernel_size=(3, 3), activation='relu'))
model.add(MaxPool2D(pool_size=(2, 2)))
model.add(Dropout(0.25))

#添加一個全連接層，然后是輸出層
'''
Flatten層:將輸入“壓平”,例如從三維特征圖變成二維特征向量 
Dense層:全連接層,128個節(jié)點,激活函數(shù)為ReLU
Dropout層:隨機舍棄50%的節(jié)點
Dense層:全連接輸出層,10個節(jié)點,激活函數(shù)為softmax
'''
model.add(Flatten())
model.add(Dense(128, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(10, activation='softmax'))

#編譯模型
'''
該行代碼為模型指定:
- loss:損失函數(shù),這里為 categorical_crossentropy,用于多分類任務(wù)
- optimizer:優(yōu)化器,這里為Adam算法,是一個較為常用的優(yōu)化器 
- metrics:評價指標(biāo),這里為accuracy,用于評價分類準(zhǔn)確度
所以,這個編譯步驟為模型指定:
1. 損失函數(shù):categorical_crossentropy,計算多分類任務(wù)中的交叉熵?fù)p失 
2. 優(yōu)化器:Adam,用于更新網(wǎng)絡(luò)權(quán)重,根據(jù)損失函數(shù)更新權(quán)重以最小化損失 
3. 評價指標(biāo):accuracy,用于評價模型在訓(xùn)練和測試期間的分類準(zhǔn)確度
這三個specification對模型訓(xùn)練至關(guān)重要:
- 損失函數(shù)決定了模型在訓(xùn)練時要最小化的代價函數(shù) 
- 優(yōu)化器決定了模型如何根據(jù)損失函數(shù)更新權(quán)重以最小化損失 
- 評價指標(biāo)用于評判模型的訓(xùn)練效果和泛化能力
'''
model.compile(loss='categorical_crossentropy',
             optimizer='adam',
             metrics=['accuracy'])

#訓(xùn)練數(shù)據(jù)上擬合模型
'''
該行代碼會使用X_train和Y_train的數(shù)據(jù)對模型進行訓(xùn)練,具體參數(shù)為:
- X_train:訓(xùn)練數(shù)據(jù)的特征值
- Y_train:訓(xùn)練數(shù)據(jù)的標(biāo)簽值 
- batch_size:批大小,這里為32,表示每批32個樣本
- epochs:訓(xùn)練輪數(shù),這里為10輪
- verbose:日志顯示,這里為1,顯示一個進度條
- 所以,這行代碼會以以下方式訓(xùn)練模型:
1. X_train和Y_train作為訓(xùn)練集數(shù)據(jù)         
2. 以批大小32的mini-batch進行訓(xùn)練,每批選32個樣本進行訓(xùn)練更新 
3. 訓(xùn)練10輪,用全部訓(xùn)練集訓(xùn)練10次 
4. 訓(xùn)練過程中顯示一個進度條,日志級別為1 
'''
model.fit(X_train, Y_train, batch_size=32, epochs=10, verbose=1)

#在測試數(shù)據(jù)上評估模型
score = model.evaluate(X_test, Y_test, verbose=0)