我对uwsgi不熟悉。当我使用uwsgi启动深度学习模型服务时,启动的多个进程只能在同一个GPU上启动。如何在不同的GPU上均匀启动多个进程?可以通过配置uwsgi.ini文件来实现吗?例如,使用 GPU device-id 作为参数。
uwsgi.worker_id()函数用于获取当前worker进程的ID。
import os,uwsgi
worker_id = uwsgi.worker_id()
os.environ['CUDA_VISIBLE_DEVICES'] = str(worker_id % num_gpu)