如何使gunicorn和烧瓶不会消耗巨大的记忆力

问题描述 投票:1回答:1

我使用烧瓶和gunicorn在生产规模的机器学习模型上进行部署,但使用带有4名工人的gunicorn的记忆非常庞大(几乎是4x)没有枪支。 gunicorn可以使用更少的内存吗?

python
1个回答
0
投票

将您的工作人员调整为(2 * CPU)+1。这是使用工作线程和线程时建议的最大并发请求数。

© www.soinside.com 2019 - 2024. All rights reserved.