我正在尝试加快人员计数器应用程序的推理,为了使用GPU,我已经按照如下所述设置了推理引擎配置设置:
device_name = "GPU"
ie.SetConfig({ {PluginConfigParams::KEY_CONFIG_FILE, "./cldnn_global_custom_kernels/cldnn_global_custom_kernels.xml"} }, device_name);
并在推理引擎上加载网络,如下所述设置目标设备:
CNNNetwork net = netReader.getNetwork();
TargetDevice t_device = InferenceEngine::TargetDevice::eGPU;
network.setTargetDevice(t_device);
const std::map<std::string, std::string> dyn_config = { { PluginConfigParams::KEY_DYN_BATCH_ENABLED, PluginConfigParams::YES } };
ie_.LoadNetwork(network,device_name, dyn_config);
但是推理引擎尚未使用CPU,这会减慢推理时间。有一种方法可以在最大功率下使用Intel GPU在特定网络上进行推理?我正在使用人员检测零售0013模型。
谢谢。
您是说人检测零售0013吗?因为我尚未在open_model_zoo存储库中找到“ walker-detecting-retail-013”。