NVIDIA Jetson Orin 平台如何查看GPU占用情况

Orin 平台（以及其它 NVIDIA Jetson 系列，如 Xavier、Nano 等）无法使用 nvidia-smi 查看 GPU 状态，原因如下：

1.根本原因：Jetson 是嵌入式平台，不使用 NVIDIA 驱动栈中的 NVIDIA GPU 驱动（NVML）

nvidia-smi 的前提

nvidia-smi 是基于 NVIDIA 管理库（NVML） 的工具，它适用于 独立 GPU（Discrete GPU） 的驱动栈，如：

• NVIDIA RTX/GTX/Tesla/A100/H100 等显卡

• 运行桌面/服务器版 NVIDIA 驱动（一般配合 CUDA Toolkit 安装）

2.Jetson 的实际架构

Jetson Orin 使用的是 集成 GPU（iGPU），属于 NVIDIA 的 Tegra 架构，搭载的是 L4T（Linux for Tegra）嵌入式 Linux 系统，它采用的是特制的驱动和用户空间库：

• GPU 由 nvgpu 驱动管理（而非传统的 nvidia.ko）

• 不包含 NVML（nvidia-smi 依赖它）

• 内核和驱动都是定制版，优化用于低功耗嵌入式场景

因此 Jetson 无法也不需要使用 nvidia-smi。

查看办法

Ubuntu右上角有个MAXN,

这是 Jetson 上的一种 GPU/系统资源监控小插件，通常出现在桌面右上角的系统托盘区域（系统指示器区域）。这个小工具是 Jetson 定制的 UI 插件，名字来源于：

• Memory

• Activity

• eXecution

• NVIDIA

它由 JetPack 系统中的某些组件自动安装并运行，作用类似于一个轻量版的 nvidia-smi UI。

功能：

• 实时显示 GPU 使用率（通常是 GR3D）

• 显示内存占用

• 显示 CPU/GPU 温度

• 显示当前系统资源状态

3.或者可以通过命令行的形式查看

方法一：使用 tegrastats（推荐）

Orin 平台预装了 tegrastats 工具，可以实时查看 CPU、GPU、显存、内存等使用情况。

sudo tegrastats

输出示例：

RAM 3216/16384MB (lfb 1234x4MB) SWAP 0/0MB 
GPU 25%@1122 EMC 12%@1600 APE 150 MTS fg 0% 
GR3D 22% CV 0% NVENC 0% NVDEC 0% 
VIC 0% VI 0% ISP 0%
 

其中：

• GR3D：代表 GPU 的使用率。

• RAM/显存使用：也会在输出中看到如 RAM 3216/16384MB，其中也包含显存分配信息。

方法二：使用 jtop（更友好）

安装 jtop 工具，它是 Jetson 上的 htop + tegrastats 图形化工具。

1. 安装：

sudo -H pip install -U jetson-stats

1. 运行：

sudo jtop

在 jtop 界面中，你可以看到 GPU、显存占用、CPU 负载等，交互性更强。

方法三：使用 nvgstcapture（如果你是做图像/视频处理的）

某些 Jetson 软件栈中也包含一些 GStreamer 工具，它们也会在处理过程中输出 GPU 显存占用情况，但这个方式偏应用层，不适合实时监控。

方法四：查看系统内存分布（非直观，但有用）

Jetson 的 GPU 显存是共享内存的一部分，可通过以下命令了解：

cat /proc/meminfo

或者使用 free -h 查看总体内存使用情况。