多次运行yolov5还是使用更高的批量大小更好

Question

我需要每秒处理 6 个图像 10 次，为此我使用 yolov5。 但我是这个主题的新手，我对推理的批量大小有点困惑。 据我了解，使用较高的批量大小，您可以一次生成多个图像，但结果的精度较低。 那么，这个问题更常见的是使用具有较高批量大小的 yolov5 或运行 yolo x 次但具有较低批量大小（在这种情况下，我将并行运行不同的实例）。 还是我完全错了？

现在我正在使用 YoloV5n 预训练的 .pts 并将它们转换为 .engine 文件。 该程序的目标是在 Jetson AGX Xavier 上运行。

Answer 1

您可能会混淆这里的训练和推理。当训练模型时，批量大小是超参数之一，它可能会影响模型的收敛程度。

在推理期间，几乎在所有情况下，批量大小仅决定模型将并行执行的次数。 IE。无论批量大小如何，每个图像的输出都将相同。

使用您的系统，以每秒 60 帧的速度运行像

yolov8n

这样的轻量级模型不会造成任何问题，因此我不会担心性能，只需将批量大小设置为任何有效的大小即可。