解決Tensorflow sess.run導(dǎo)致的內(nèi)存溢出問(wèn)題
下面是調(diào)用模型進(jìn)行批量測(cè)試的代碼(出現(xiàn)溢出),開始以為導(dǎo)致溢出的原因是數(shù)據(jù)讀入方式問(wèn)題引起的,用了tf , PIL和cv等方式讀入圖片數(shù)據(jù),發(fā)現(xiàn)越來(lái)越慢,內(nèi)存占用飆升,調(diào)試時(shí)發(fā)現(xiàn)是sess.run這里出了問(wèn)題(隨著for循環(huán)進(jìn)行速度越來(lái)越慢)。
# Creates graph from saved GraphDef create_graph(pb_path) # Init tf Session config = tf.ConfigProto() config.gpu_options.allow_growth = True sess = tf.Session(config=config) init = tf.global_variables_initializer() sess.run(init) input_image_tensor = sess.graph.get_tensor_by_name("create_inputs/batch:0") output_tensor_name = sess.graph.get_tensor_by_name("conv6/out_1:0") for filename in os.listdir(image_dir): image_path = os.path.join(image_dir, filename) start = time.time() image_data = cv2.imread(image_path) image_data = cv2.resize(image_data, (w, h)) image_data_1 = image_data - IMG_MEAN input_image = np.expand_dims(image_data_1, 0) raw_output_up = tf.image.resize_bilinear(output_tensor_name, size=[h, w], align_corners=True) raw_output_up = tf.argmax(raw_output_up, axis=3) predict_img = sess.run(raw_output_up, feed_dict={input_image_tensor: input_image}) # 1,height,width predict_img = np.squeeze(predict_img) # height, width voc_palette = visual.make_palette(3) masked_im = visual.vis_seg(image_data, predict_img, voc_palette) cv2.imwrite("%s_pred.png" % (save_dir + filename.split(".")[0]), masked_im) print(time.time() - start) print(">>>>>>Done")
下面是解決溢出問(wèn)題的代碼(將部分代碼放在for循環(huán)外)
# Creates graph from saved GraphDef create_graph(pb_path) # Init tf Session config = tf.ConfigProto() config.gpu_options.allow_growth = True sess = tf.Session(config=config) init = tf.global_variables_initializer() sess.run(init) input_image_tensor = sess.graph.get_tensor_by_name("create_inputs/batch:0") output_tensor_name = sess.graph.get_tensor_by_name("conv6/out_1:0") ############################################################################################################## raw_output_up = tf.image.resize_bilinear(output_tensor_name, size=[h, w], align_corners=True) raw_output_up = tf.argmax(raw_output_up, axis=3) ############################################################################################################## for filename in os.listdir(image_dir): image_path = os.path.join(image_dir, filename) start = time.time() image_data = cv2.imread(image_path) image_data = cv2.resize(image_data, (w, h)) image_data_1 = image_data - IMG_MEAN input_image = np.expand_dims(image_data_1, 0) predict_img = sess.run(raw_output_up, feed_dict={input_image_tensor: input_image}) # 1,height,width predict_img = np.squeeze(predict_img) # height, width voc_palette = visual.make_palette(3) masked_im = visual.vis_seg(image_data, predict_img, voc_palette) cv2.imwrite("%s_pred.png" % (save_dir + filename.split(".")[0]), masked_im) print(time.time() - start) print(">>>>>>Done")
總結(jié):
在迭代過(guò)程中, 在sess.run的for循環(huán)中不要加入tensorflow一些op操作,會(huì)增加圖節(jié)點(diǎn),否則隨著迭代的進(jìn)行,tf的圖會(huì)越來(lái)越大,最終導(dǎo)致溢出;
建議不要使用tf.gfile.FastGFile(image_path, 'rb').read()讀入數(shù)據(jù)(有可能會(huì)造成溢出),用opencv之類讀取。
以上這篇解決Tensoflow sess.run導(dǎo)致的內(nèi)存溢出問(wèn)題就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
- 解決TensorFlow訓(xùn)練內(nèi)存不斷增長(zhǎng),進(jìn)程被殺死問(wèn)題
- 淺談tensorflow之內(nèi)存暴漲問(wèn)題
- TensorFlow內(nèi)存管理bfc算法實(shí)例
- Tensorflow 實(shí)現(xiàn)釋放內(nèi)存
- 解決tensorflow訓(xùn)練時(shí)內(nèi)存持續(xù)增加并占滿的問(wèn)題
- tensorflow 打印內(nèi)存中的變量方法
- Tensorflow 訓(xùn)練自己的數(shù)據(jù)集將數(shù)據(jù)直接導(dǎo)入到內(nèi)存
- 解決Tensorflow 內(nèi)存泄露問(wèn)題
相關(guān)文章
jupyter notebook 多環(huán)境conda kernel配置方式
這篇文章主要介紹了jupyter notebook 多環(huán)境conda kernel配置方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-04-04python簡(jiǎn)單驗(yàn)證碼識(shí)別的實(shí)現(xiàn)過(guò)程
很多網(wǎng)站登錄都需要輸入驗(yàn)證碼,如果要實(shí)現(xiàn)自動(dòng)登錄就不可避免的要識(shí)別驗(yàn)證碼,這篇文章主要給大家介紹了關(guān)于python簡(jiǎn)單驗(yàn)證碼識(shí)別的實(shí)現(xiàn)過(guò)程,需要的朋友可以參考下2021-06-06Python函數(shù)式編程中itertools模塊詳解
這篇文章主要介紹了在Python中使用itertools模塊中的組合函數(shù)的教程,來(lái)自IBM官方技術(shù)文檔,需要的朋友可以參考下,希望能夠給你帶來(lái)幫助2021-09-09利用Python制作本地Excel的查詢與生成的程序問(wèn)題
最近遇到這樣一個(gè)項(xiàng)目需求制作一個(gè)程序有一個(gè)簡(jiǎn)單的查詢?nèi)肟趯?shí)現(xiàn)Excel的查詢與生成,今天教大家利用Python制作本地Excel的查詢與生成的程序,感興趣的朋友跟隨小編一起看看吧2022-06-06Python動(dòng)態(tài)生成多維數(shù)組的方法示例
這篇文章主要介紹了Python動(dòng)態(tài)生成多維數(shù)組的方法,涉及Python數(shù)組動(dòng)態(tài)遍歷、添加、打印等相關(guān)操作技巧,需要的朋友可以參考下2018-08-08