我可以自定义Tensorflow服务吗？

Question

我正在研究Tensorflow服务。我对Tensorflow不熟悉并且遇到很多困难，但我正在通过谷歌文档或其他文档进行研究。

例如，在下载Tensorflow服务源文件然后编译它之后

tensorflow_model_server --port = 9000 --model_name = mnist --model_base_path = / tmp / mnist_model

将正常工作并使用gRPC与客户沟通。

但是，我是否应该使用tensorflow-serving仅用于已经由Google提供的二进制文件，如tensorflow_model_server？

或者我可以在C ++中包含标题并将其添加到库中，以便我可以任意编写程序吗？

Answer 1

为了服务，你可以使用tensorflow serving C++ API，这里有一些code example。

此外，Google还提供了一个docker镜像，用于为模型提供服务并以RESTful和gRPC样式公开客户端API，以便您可以使用任何语言编写客户端。

tensorflow_model_server是Dockerized服务器的一部分，你需要编写你的客户端来与它进行交互，下面是一些代码示例，使RESTful或gRPC调用服务器。