前言

每當一個或多個客戶端打開設備文件時，GPU狀態就會保持加載在驅動程序中。一旦所有客戶端都關閉了設備文件，除非啟用了持久化模式，否則GPU狀態將被卸載。

為避免每次初始化所造成的延遲而影響到效能，可開啟GPU持久化模式。

方法一

指定 GPU 開啟持久化模式

1
sudo nvidia-smi -i <GPU ID> -pm 1

指定 GPU 關閉持久化模式

1
sudo nvidia-smi -i <GPU ID> -pm 0

如未指定 GPU，則代表全部 GPU 都開啟或關閉

方法二

方法一在機器重新啟動後，設定將會清空，如要保留則需寫入 service 中

編輯 /lib/systemd/system/nvidia-persistenced.service

1
sudo vim /lib/systemd/system/nvidia-persistenced.service
1
2
3
4
5
6
7
8
9
10
11
12
13
14
[Unit]
Description=NVIDIA Persistence Daemon
After=syslog.target

[Service]
Type=forking
PIDFile=/var/run/nvidia-persistenced/nvidia-persistenced.pid
Restart=always
ExecStart=/usr/bin/nvidia-persistenced --verbose
ExecStopPost=/bin/rm -rf /var/run/nvidia-persistenced/*
TimeoutSec=300

[Install]
WantedBy=multi-user.target

啟用服務

1
sudo systemctl enable nvidia-persistenced