淺談多卡服務器下隱藏部分 GPU 和 TensorFlow 的顯存使用設置
服務器有多張顯卡，一般是組里共用，分配好顯卡和任務就體現(xiàn)公德了。除了在代碼中指定使用的 GPU 編號，還可以直接設置可見 GPU 編號，使程序/用戶只對部分 GPU 可見。
操作很簡單，使用環(huán)境變量 CUDA_VISIBLE_DEVICES 即可。
具體來說，如果使用單卡運行 Python 腳本，則可輸入
CUDA_VISIBLE_DEVICES=1 python my_script.py
腳本將只使用 GPU1。
在 .py 腳本和 Notebook 中設置，則
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "2"
還可以直接設置臨時的環(huán)境變量：
export CUDA_VISIBLE_DEVICES="0"
此時該用戶的 CUDA 只看得見 GPU0。
至于顯存設置，可以設置使用比例(70%)：
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))
也可以按需增長：
config = tf.ConfigProto() config.gpu_options.allow_growth = True session = tf.Session(config=config, ...)
如果是 Keras 使用 TensorFlow 后端，則可通過如
import tensorflow as tf from keras.backend.tensorflow_backend import set_session config = tf.ConfigProto() config.gpu_options.allow_growth = True set_session(tf.Session(config=config))
更改使用設置。
以上這篇淺談多卡服務器下隱藏部分 GPU 和 TensorFlow 的顯存使用設置就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
python如何利用matplotlib繪制并列雙柱狀圖并標注數(shù)值
Python之中最好的圖表庫叫matplotlib,matplotlib,顧名思義就是提供了一整套和matlab相似的API,它的文檔相當完備,下面這篇文章主要給大家介紹了關(guān)于python如何利用matplotlib繪制并列雙柱狀圖并標注數(shù)值的相關(guān)資料,需要的朋友可以參考下2022-04-04
這篇文章主要介紹了Python中文件操作的相關(guān)資料，幫助大家更好的理解和學習python，感興趣的朋友可以了解下2021-01-01
這篇文章主要介紹了在Python上基于Markov鏈生成偽隨機文本的教程,是一個基于馬爾可夫算法的小實現(xiàn),充分體現(xiàn)了Python在科學計算中的用途,需要的朋友可以參考下2015-04-04
在使用PyTorch進行深度學習時,頻繁的數(shù)據(jù)和計算可能導致CPU緩存滿載,影響性能和內(nèi)存使用,適時清理CPU緩存有助于管理內(nèi)存占用,下面就來介紹一下如何使用2024-09-09
Python?PEP8?代碼規(guī)范常見問題及解決方法
最近換成?PyCharm?寫代碼總是會出現(xiàn)波浪號,這才了解到?Python?的?PEP8?代碼規(guī)范,所以將常見的?PEP8?代碼規(guī)范問題和解決方法記錄一下,養(yǎng)成良好的習慣,編寫規(guī)范的代碼2023-09-09
平時打開一個網(wǎng)頁，除了文章的正文內(nèi)容，通常會有一大堆的導航，廣告和其他方面的信息。本文的目的，在于說明如何從一個網(wǎng)頁中提取出文章的正文內(nèi)容，而過渡掉其他無關(guān)的的信息。2014-06-06
Python使用pyodbc訪問數(shù)據(jù)庫操作方法詳解
這篇文章主要介紹了Python使用pyodbc訪問數(shù)據(jù)庫操作方法,結(jié)合實例形式詳細分析了Python基于pyodbc針對數(shù)據(jù)庫的連接、查詢、插入、修改、刪除等操作技巧與注意事項,需要的朋友可以參考下2018-07-07
這篇文章主要為大家介紹了Python進程和守護進程，具有一定的參考價值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來幫助2021-12-12
Pyperclip模塊兼容python2和python3，能跨平臺使用，這篇文章主要介紹了Pyperclip模塊安裝和使用詳解,需要的朋友可以參考下2023-03-03
Django實現(xiàn)列表頁商品數(shù)據(jù)返回教程
這篇文章主要介紹了Django實現(xiàn)列表頁商品數(shù)據(jù)返回教程，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-04-04