时间:2021-05-22
服务器有多张显卡,一般是组里共用,分配好显卡和任务就体现公德了。除了在代码中指定使用的 GPU 编号,还可以直接设置可见 GPU 编号,使程序/用户只对部分 GPU 可见。
操作很简单,使用环境变量 CUDA_VISIBLE_DEVICES 即可。
具体来说,如果使用单卡运行 Python 脚本,则可输入
CUDA_VISIBLE_DEVICES=1 python my_script.py
脚本将只使用 GPU1。
在 .py 脚本和 Notebook 中设置,则
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "2"
还可以直接设置临时的环境变量:
export CUDA_VISIBLE_DEVICES="0"
此时该用户的 CUDA 只看得见 GPU0。
至于显存设置,可以设置使用比例(70%):
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))
也可以按需增长:
config = tf.ConfigProto()config.gpu_options.allow_growth = Truesession = tf.Session(config=config, ...)如果是 Keras 使用 TensorFlow 后端,则可通过如
import tensorflow as tf from keras.backend.tensorflow_backend import set_sessionconfig = tf.ConfigProto()config.gpu_options.allow_growth = Trueset_session(tf.Session(config=config))更改使用设置。
以上这篇浅谈多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
我使用的是tensorflow-gpu(1.2.1)和Theano(0.9.0),2个4G显存NvidiaQuadroM2000GPU。1.theano:Val
注:本文针对单个服务器上多块GPU的使用,不是多服务器多GPU的使用。在一些实验中,由于Batch_size的限制或者希望提高训练速度等原因,我们需要使用多块G
在使用TensorFlow跑深度学习的时候,经常出现显存不足的情况,所以我们希望能够随时查看GPU时使用率。如果你是Nvidia的GPU,那么在命令行下,只需要
最大预渲染设置是4,最大预渲染帧数同时占用额外的处理器时间和GPU额外显存,如果处理器并不好和显存并不大,请设置为1到2范围内,让大部分的性能用来渲染当前帧。
一、多张gpu的卡上使用keras有多张gpu卡时,推荐使用tensorflow作为后端。使用多张gpu运行model,可以分为两种情况,一是数据并行,二是设备