tensorflow-serving 相关问题

TensorFlow Serving是一种灵活的高性能服务系统，适用于机器学习模型，专为生产环境而设计。 TensorFlow服务可以轻松部署新算法和实验，同时保持相同的服务器架构和API。 TensorFlow Serving提供与TensorFlow模型的开箱即用集成，但可以轻松扩展以提供其他类型的模型和数据。

当使用TensorFlow服务提供TF模型时，应该在哪里执行预处理和后处理步骤？

通常，要使用TF图，必须将原始数据转换为数值。我将此过程称为预处理步骤。例如，如果原始数据是一个句子，一种方法是...

tensorflow tensorflow-serving

回答 1 投票 31

如何使用INTENT CAMERA从TENSORFLOW LITE app正确分类？

我使用REAL TIME TF-LITE Cllasifier DEMO APP测试了我的微调模型，它显示了非常好的效果。但是，当我使用Intent Camera Picture（一次一个）测试相同的模型时，它显示非常糟糕......

tensorflow tensorflow-serving tensorflow-datasets tensorflow-lite tensorflow-android

回答 1 投票 0

Tensorflow服务：请求失败，对象没有属性'unary_unary

我正在使用TensorFlow构建CNN文本分类器，我想使用服务apis加载tensorflow-serving和query。当我在grcp存根上调用Predict（）方法时，我收到此错误：...

python-3.x tensorflow tensorflow-serving

回答 2 投票 5

使用cmake构建服务客户端的tensorflow

我搜索了最好的方法来做到这一点，但我无法找到一个明确的答案。有人能够使用cmake构建一个服务于张量流的客户端吗？我在生成CPP文件时遇到困难......

c++ cmake tensorflow-serving

回答 2 投票 2

如何直接获取类名作为yolo tf服务的输出

我想从我的自定义yolov2获取输出作为已识别对象的字典列表。黑暗流有一个函数return_predict（），它在创建服务文件时执行相同的操作。我是 ...

tensorflow deployment object-detection tensorflow-serving yolo

回答 1 投票 -1

Tensorflow freeze_graph无法初始化local_variables

使用局部变量冻结图形时，freeze_graph会出现错误，指出“尝试使用未初始化的值...”。有问题的局部变量通过以下方式初始化：with tf ....

tensorflow tensorflow-serving

回答 1 投票 1

Tensorflow服务：Rest API返回“格式错误的请求”错误

Tensorflow服务服务器（使用docker运行）响应我的GET（和POST）请求：{“error”：“格式错误的请求：POST / v1 / models / saved_model /”}正是同样的问题已经......

rest tensorflow machine-learning tensorflow-serving

回答 4 投票 3

Tensorflow自定义Estimator with Dataset API：嵌入查找（feature_column）NMT任务

我的问题本质上接近于功能列嵌入查找，但是我无法评论那里给出的答案（没有足够的代表），我认为回答者要么没有完全理解......

tensorflow tensorflow-serving tensorflow-datasets tensorflow-estimator

回答 3 投票 2

在grpc调用中使用时，Tensorflow模型无法正常工作

使用grpc创建了一个rpc服务。当我尝试在grpc调用内调用张量流预测函数（预测）。我得到张量流相关的错误并发现tf.global_variables（）...

python-3.x tensorflow grpc tensorflow-serving grpc-python

回答 1 投票 1

TFS MultiInference rpc方法中的错误（未定义的行为）

我正在尝试使用MultiInference方法在一个请求中检查某个模型的两个不同版本（A / B测试）。但是在某些情况下，我有一个错误重复的签名评估：...

tensorflow tensorflow-serving

回答 1 投票 1

亚马逊SageMaker中的Tensorflow服务

我在AWS SageMaker上面临服务tensorflow模型的问题。我已经在SageMaker环境之外训练了模型，现在我有一个savedmodel.pb文件，我需要在...上部署它。

python amazon-web-services tensorflow tensorflow-serving amazon-sagemaker

回答 1 投票 0

Tensorflow服务对象检测使用Kubeflow进行预测

我按照本文中给出的步骤来部署我的tensorflow模型，以便使用Google Kubernetes Engine和Kubeflow上的GPU进行预测。我通过修改...将服务公开为负载均衡器

tensorflow kubernetes google-kubernetes-engine tensorflow-serving kubeflow

回答 1 投票 0

tensorFlow服务批处理配置无效

docker run命令docker run -t --rm -p 8500：8500 -p 8501：8501 -v /home/zhi.wang/tensorflow-serving/model:/models -e MODEL_NAME = beidian_cart_ctr_wdl_model tensorflow / serving：1.12.0 - -...

tensorflow-serving

回答 1 投票 0

部署tensorflow服务客户端脚本

我是tensorflow的新手，我正在学习如何部署生产模型。我已经在GCP云存储上部署了我的Tensorflow对象检测模型，它可以在Google Kubernetes上使用...

docker tensorflow kubernetes google-cloud-platform tensorflow-serving

回答 1 投票 1

将元数据添加到tensorflow服务api调用

是否可以将元数据添加到服务于servable的tensorflow中，以便此元数据也填充在来自servable的响应中？如果我有一个文件结构的servable：...

tensorflow-serving

回答 1 投票 2

gRPC名称解析失败

在尝试使用docker运行tensorflow服务时，我收到以下错误，使用gRPC发出客户端请求，代码如下：`python client.py --server = 172.17.0.2 / 16：9000 --image =。/ .. 。