快捷導(dǎo)航

tensorflow學(xué)習(xí)筆記之簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)訓(xùn)練和測(cè)試

更新時(shí)間：2018年04月15日 08:48:49 作者：denny402

這篇文章主要為大家詳細(xì)介紹了tensorflow學(xué)習(xí)筆記，用簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)來(lái)訓(xùn)練和測(cè)試，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下

本文實(shí)例為大家分享了用簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)來(lái)訓(xùn)練和測(cè)試的具體代碼，供大家參考，具體內(nèi)容如下

剛開(kāi)始學(xué)習(xí)tf時(shí)，我們從簡(jiǎn)單的地方開(kāi)始。卷積神經(jīng)網(wǎng)絡(luò)（CNN）是由簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)（NN）發(fā)展而來(lái)的，因此，我們的第一個(gè)例子，就從神經(jīng)網(wǎng)絡(luò)開(kāi)始。

神經(jīng)網(wǎng)絡(luò)沒(méi)有卷積功能，只有簡(jiǎn)單的三層：輸入層，隱藏層和輸出層。

數(shù)據(jù)從輸入層輸入，在隱藏層進(jìn)行加權(quán)變換，最后在輸出層進(jìn)行輸出。輸出的時(shí)候，我們可以使用softmax回歸，輸出屬于每個(gè)類別的概率值。借用極客學(xué)院的圖表示如下：

其中，x1,x2,x3為輸入數(shù)據(jù)，經(jīng)過(guò)運(yùn)算后，得到三個(gè)數(shù)據(jù)屬于某個(gè)類別的概率值y1,y2,y3. 用簡(jiǎn)單的公式表示如下：

在訓(xùn)練過(guò)程中，我們將真實(shí)的結(jié)果和預(yù)測(cè)的結(jié)果相比（交叉熵比較法），會(huì)得到一個(gè)殘差。公式如下：

y是我們預(yù)測(cè)的概率值,y'是實(shí)際的值。這個(gè)殘差越小越好，我們可以使用梯度下降法，不停地改變W和b的值，使得殘差逐漸變小，最后收斂到最小值。這樣訓(xùn)練就完成了，我們就得到了一個(gè)模型（W和b的最優(yōu)化值）。

完整代碼如下：

import tensorflow as tf
import tensorflow.examples.tutorials.mnist.input_data as input_data
mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)
x = tf.placeholder(tf.float32, [None, 784])
y_actual = tf.placeholder(tf.float32, shape=[None, 10])
W = tf.Variable(tf.zeros([784,10]))    #初始化權(quán)值W
b = tf.Variable(tf.zeros([10]))      #初始化偏置項(xiàng)b
y_predict = tf.nn.softmax(tf.matmul(x,W) + b)   #加權(quán)變換并進(jìn)行softmax回歸，得到預(yù)測(cè)概率
cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_actual*tf.log(y_predict),reduction_indies=1))  #求交叉熵
train_step = tf.train.GradientDescentOptimizer(0.01).minimize(cross_entropy)  #用梯度下降法使得殘差最小

correct_prediction = tf.equal(tf.argmax(y_predict,1), tf.argmax(y_actual,1))  #在測(cè)試階段，測(cè)試準(zhǔn)確度計(jì)算
accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float"))        #多個(gè)批次的準(zhǔn)確度均值

init = tf.initialize_all_variables()
with tf.Session() as sess:
  sess.run(init)
  for i in range(1000):        #訓(xùn)練階段，迭代1000次
    batch_xs, batch_ys = mnist.train.next_batch(100)      #按批次訓(xùn)練，每批100行數(shù)據(jù)
    sess.run(train_step, feed_dict={x: batch_xs, y_actual: batch_ys})  #執(zhí)行訓(xùn)練
    if(i%100==0):         #每訓(xùn)練100次，測(cè)試一次
      print "accuracy:",sess.run(accuracy, feed_dict={x: mnist.test.images, y_actual: mnist.test.labels})

每訓(xùn)練100次，測(cè)試一次，隨著訓(xùn)練次數(shù)的增加，測(cè)試精度也在增加。訓(xùn)練結(jié)束后，1W行數(shù)據(jù)測(cè)試的平均精度為91%左右，不是太高，肯定沒(méi)有CNN高。

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

您可能感興趣的文章: