如何使用uwsgi在不同gpu设备上启动程序的多个进程?

问题描述 投票:0回答:1

我对uwsgi不熟悉。当我使用uwsgi启动深度学习模型服务时,启动的多个进程只能在同一个GPU上启动。如何在不同的GPU上均匀启动多个进程?可以通过配置uwsgi.ini文件来实现吗?例如,使用 GPU device-id 作为参数。

deep-learning uwsgi
1个回答
0
投票

uwsgi.worker_id()函数用于获取当前worker进程的ID。

import os,uwsgi    
worker_id = uwsgi.worker_id()
os.environ['CUDA_VISIBLE_DEVICES'] = str(worker_id % num_gpu)
© www.soinside.com 2019 - 2024. All rights reserved.