有没有资源如何以及如果他们完全这样做？我很好奇是否在图中识别出依赖关系并相应地进行并行化。
https://www.tensorflow.org/tutorials/images/deep_cnn
https://www.tensorflow.org/deploy/distributed
https://www.tensorflow.org/guide/faq
https://github.com/google/seq2seq/issues/44
这些对我来说并不清楚，因为他们谈论手动操作，但似乎没有解释图表是如何或是否自动并行化。
原因是TensorFlow不提供在多个执行单元上分布图形的自动机制，假设开发人员自己这样做。但是，它显然会跟踪图中的所有依赖项，因此如果您手动执行，它将确保以正确的顺序计算事物。
如果您想开箱即用的分布式/多GPU功能，请查看张量包：https://github.com/tensorpack/tensorpack