在 Django 项目中保持深度学习模型加载到内存中

Question

我有一个深度学习模型，并且已将其添加到我的 django web REST API 中。 我希望模型始终加载到内存中。目前，当用户请求时，模型加载到内存中，然后在一段时间后释放。我希望它不断加载到内存中，以便我的 api 的响应时间变得更好。我已经在 Windows Server 2019 上部署了 API。

Answer 1

您可以从您的

apps.py

文件加载它。

在您的 django 应用程序中（让我们将您的应用程序称为 myapp），您可能有一个名为

apps.py

的文件，与您的

models.py

、

views.py

等处于同一级别

您重写了其中的

ready()

方法。

myapp/apps.py

中的示例

from django.apps import AppConfig

loaded_model = None

class MyAppConfig(AppConfig):
    default_auto_field = 'django.db.models.BigAutoField'
    name = 'myapp'

    def ready(self):
        global loaded_model
        loaded_model = <load your model here>  

然后您可以像这样在

views.py

中使用它

from .apps import loaded_model

def my_view(request):
    result = loaded_model.<your_model_method>