Pytorch中的动态量化量化后开始随机训练

Question

当我运行以下动态量化代码时，它开始使用一些随机自然图像进行 100 个时期的训练，我不想再次进行训练。我有预训练的权重，我只是想量化我的预训练的权重以减少推理时间：

from ultralytics import YOLO
import torch
import torch.quantization

model=YOLO('pre_trained_weights.pt')

model.load_state_dict(torch.load('checkpoint.pth')) #donot know this step is necessary or not

qmodel = torch.quantization.quantize_dynamic(model, dtype = torch.quint8)

我尝试了上面的代码，我希望我只是想量化我的预训练权重以减少推理时间

Answer 1

动态量化不适用于Conv层（YOLO中的Conv）。 在此处查看文档。我相信当您应用于不支持的图层时，它会进入校准模式。