快捷導(dǎo)航

對(duì)TensorFlow中的variables_to_restore函數(shù)詳解

更新時(shí)間：2018年07月30日 10:08:55 作者：修煉之路

今天小編就為大家分享一篇對(duì)TensorFlow中的variables_to_restore函數(shù)詳解，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧

variables_to_restore函數(shù)，是TensorFlow為滑動(dòng)平均值提供。之前，也介紹過通過使用滑動(dòng)平均值可以讓神經(jīng)網(wǎng)絡(luò)模型更加的健壯。我們也知道，其實(shí)在TensorFlow中，變量的滑動(dòng)平均值都是由影子變量所維護(hù)的，如果你想要獲取變量的滑動(dòng)平均值需要獲取的是影子變量而不是變量本身。

1、滑動(dòng)平均值模型文件的保存

import tensorflow as tf
 
if __name__ == "__main__":
 v = tf.Variable(0.,name="v")
 #設(shè)置滑動(dòng)平均模型的系數(shù)
 ema = tf.train.ExponentialMovingAverage(0.99)
 #設(shè)置變量v使用滑動(dòng)平均模型，tf.all_variables()設(shè)置所有變量
 op = ema.apply([v])
 #獲取變量v的名字
 print(v.name)
 #v:0
 #創(chuàng)建一個(gè)保存模型的對(duì)象
 save = tf.train.Saver()
 sess = tf.Session()
 #初始化所有變量
 init = tf.initialize_all_variables()
 sess.run(init)
 #給變量v重新賦值
 sess.run(tf.assign(v,10))
 #應(yīng)用平均滑動(dòng)設(shè)置
 sess.run(op)
 #保存模型文件
 save.save(sess,"./model.ckpt")
 #輸出變量v之前的值和使用滑動(dòng)平均模型之后的值
 print(sess.run([v,ema.average(v)]))
 #[10.0, 0.099999905]

上面的代碼，是如何來保存一個(gè)滑動(dòng)平均值的模型文件，之前有介紹過滑動(dòng)平均值和模型文件的保存，所以這里就不再重復(fù)了。

2、滑動(dòng)平均值模型文件的讀取

 v = tf.Variable(1.,name="v")
 #定義模型對(duì)象
 saver = tf.train.Saver({"v/ExponentialMovingAverage":v})
 sess = tf.Session()
 saver.restore(sess,"./model.ckpt")
 print(sess.run(v))
 #0.0999999

對(duì)于模型文件的讀取，在上一篇博客中有介紹過，這里特別需要注意的一個(gè)地方就是，在使用tf.train.Saver函數(shù)中，所傳遞的模型參數(shù)是{"v/ExponentialMovingAverage":v}而不是{"v":v}，如果你使用的是后面的參數(shù)，那么你得到的結(jié)果將是10而不是0.09，那是因?yàn)楹笳攉@取的是變量本身而不是影子變量。是不是感覺使用這種方式來讀取模型文件的時(shí)候，還需要輸入一大串的變量名稱。

3、variables_to_restore函數(shù)的使用

 v = tf.Variable(1.,name="v")
 #滑動(dòng)模型的參數(shù)的大小并不會(huì)影響v的值
 ema = tf.train.ExponentialMovingAverage(0.99)
 print(ema.variables_to_restore())
 #{'v/ExponentialMovingAverage': <tf.Variable 'v:0' shape=() dtype=float32_ref>}
 sess = tf.Session()
 saver = tf.train.Saver(ema.variables_to_restore())
 saver.restore(sess,"./model.ckpt")
 print(sess.run(v))
 #0.0999999

通過使用variables_to_restore函數(shù)，可以使在加載模型的時(shí)候?qū)⒂白幼兞恐苯佑成涞阶兞康谋旧?，所以我們?cè)讷@取變量的滑動(dòng)平均值的時(shí)候只需要獲取到變量的本身值而不需要去獲取影子變量。

以上這篇對(duì)TensorFlow中的variables_to_restore函數(shù)詳解就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

您可能感興趣的文章: