在运行深度学习算法时，了解显存（GPU内存）的使用情况非常重要，尤其是在训练大规模模型时。你可以通过Python代码实时监控显存的使用情况。下面介绍几种常见的方法来输出显卡的显存使用信息。 ### 方法1： 使用 `nvidia-smi` 命令 `nvidia-smi` 是 NVIDIA 提供的一个命令行工具，可以直接查看 GPU 的状态，包括显存占用量。虽然这不是直接嵌入到 Python 代码里的解决方案，但它非常方便快捷。 ```python import os def print_gpu_memory_usage(): result = os.popen('nvidia-smi').read() print(result) # 调用函数打印当前显存使用情况 print_gpu_memory_usage() ``` 这种方法适合偶尔检查一下显存使用状况，在 Jupyter Notebook 中也非常有用。 ### 方法2： 使用 PyTorch 内置 API 直接获取显存使用数据 如果你正在使用 PyTorch 框架进行深度学习任务，那么可以直接调用其内置API 来查询显存使用的详细信息。 ```python import torch def get_gpu_memory_usage(): # 获取最大分配显存量（单位MB） allocated_memory = round(torch.cuda.memory_allocated() / 1024 ** 2) # 获取缓存大小（单位MB） cached_memory = round(torch.cuda.memory_cached() / 1024 ** 2) return f"Allocated Memory: {allocated_memory} MB\nCached Memory: {cached_memory} MB" if torch.cuda.is_available(): print(get_gpu_memory_usage()) else: print("CUDA is not available.") ``` 此段代码能够返回给定时刻显存在Pytorch内部已经被分配了多少字节以及处于高速缓存中的总量。 ### 方法3： 使用第三方库 GPUtil 实现更详细的监控 为了得到更为详尽的信息，还可以安装并引入GPUtil 这个外部库来进行监视： 首先需要安装gpustat库: ```bash pip install gpustat ``` 然后可以在你的脚本里加入如下内容： ```python from gpustat import GPUStatCollection gpu_query_fields = ['index', 'uuid', 'name', 'temperature.gpu', 'utilization.gpu', 'memory.total', 'memory.used'] gpus_info = [] for gpu in GPUStatCollection.new_query().gpus: gpus_info.append({field:getattr(gpu, field, '') for field in gpu_query_fields}) for info in gpus_info: print(f""" Index: {info['index']} Name: {info['name']} Temperature: {info['temperature.gpu']}°C Utilization: {info['utilization.gpu']}% Memory Total: {info['memory.total']} MiB Memory Used: {info['memory.used']} MiB""") ``` 这段程序将会遍历系统内的每一个可用GPU，并且提供有关温度、利用率和存储容量的具体数值。 以上三种方式可以帮助你在跑深度学习算法的过程中有效地监测和管理显存资源。