TensorFlow的`tf.data`模块使用`tf.data.Dataset`和`tf.data.Iterator`类为构建输入管道提供了一个功能API。
使用from_generator的Tensorflow数据管道生成数据的速度不够快
我正在使用tf.data.Dataset构建用于训练的管道,但我似乎无法获得速度。我在管道中使用from_generator(请参见下文),并且怀疑python全局锁定是......>
TensorFlow Python-有没有一种方法可以将tensorflow_datasets数据集插入ImageGenerator?
我已经尝试了很长时间在tensorflow.keras.preprocessing.image.ImageGenerator函数中使用数据增强,但是我看到的每个示例都在带有文件的目录中传递。我的...
tf.data group_by_window()而不先迭代完整的数据集
具有一个固定大小的example_ids和feature_frames数据集,如下所示(即,属于同一example_id的所有帧都是连续的):id | feature_frame ------------------ 0 | [0,1,...
Keras ImageDataGenerator用于多个输入和基于图像的目标输出
我有一个模型,该模型将两个图像作为输入,并生成一个图像作为目标输出。我所有的训练图像数据都在以下子文件夹中:input1 input2 target我可以使用...
我正在阅读“数据加载的TF性能指南”部分。对于预取,它说,tf.data API通过tf.data.Dataset.prefetch转换提供了一种软件流水线机制,...
我正在使用TensorFlow数据集的一部分cnn_dailymail数据集。我的目标是在对数据集应用一些文本预处理步骤后对它进行标记化。我访问并预处理...
如何将numpy数组保存/加载到TF2中的TFRecordDataset中?
我正在使用Tensorflow 2.0将numpy数组保存/加载到TFRecordDataset中。 2.0的文档似乎完全缺乏,而且api也不简单。我创建了一个最小的...
在下面的示例(Tensorflow 2.0)中,我们有一个包含三个元素的虚拟tensorflow数据集。我们在其上映射一个函数(replace_with_float),该函数以两个副本返回随机生成的值。当我们...
[我使用张量流数据集下载了Oxford-IIIT Pet数据集,它包含损坏的数据:损坏的JPEG数据:标记0xd9之前的240个无关字节损坏的JPEG数据:数据的提前结束...
无法获得tensorflow数据集被model.fit函数接受。尺寸问题
我正在尝试使用img = tf.image.decode_bmp(img,channels = 3)下面的代码行对位图进行解码,使用.map函数test_labeled_ds =来创建图像/标签对的tf.dataset。 ..
TensorFlow Dataset API中的IDE断点映射的py_function?
我正在使用Tensorflow Dataset API来准备要输入到我的网络中的数据。在此过程中,我有一些自定义Python函数,这些函数使用tf.py_function映射到数据集。我想要...
我正在研究人脸识别。我曾经使用TensorFlow retrain.py训练数据,我的问题是... 1. Tensorflow如何工作? 2.是否使用CNN? 3.如果我错了,请纠正我。4.为...
每次调用带有最终图形的session.run()时,Tensorflow泄漏内存
我正在尝试使用tf.data api将可变大小的图像数据(LxLx2)馈入模型,但是我注意到每次迭代都会泄漏内存。我希望内存使用将是...
为什么TensorFlow tf.data.Dataset.shuffle函数的reshuffle_each_iteration布尔参数默认为None,而不是True?
tf.Dataset.data.shuffle函数的文档指出以下内容:reshuffle_each_iteration :(可选。)一个布尔值,如果为true,则表示数据集应为...
ValueError:检查输入时出错:预期lstm_13_input具有3维,但数组的形状为(1,1)
我从Tensorflow开始,在一些培训示例中刚遇到了几个问题:import os os.environ [“ CUDA_VISIBLE_DEVICES”] =“-1” import tensorflow as tf ...
我有一个非常大的数据集,它是一个单独的npy文件,其中包含约1.5m个元素,每个元素为150x150x3图像。输出具有51列(51个输出)。由于数据集无法容纳到内存中,因此如何...
问题,我正在尝试使用数据集和keras API在Tensorflow中建立回归模型。目标包含很多零,并且非零值大致呈正态分布...
给出以下数据集:以pd导入熊猫,以tf df = pd.DataFrame({'feat_binomial':[5,1,7,4,4,6],'feat_normal':[5.001512,5.346654,-0.480363, 4.821558,-2 ....
如何将所有tf.data.Dataset对象提取到特征和标签中并传递到ImageDataGenerator的flow()方法中?
我正在根据cifar10数据集从事一个小型项目。我已经从tfds.load(...)加载了数据并练习了图像增强技术。当我使用tf.data.Dataset对象时,......>
我尝试优化数据输入管道。数据集是GCS上托管的450个TFRecord文件的集合,每个文件的大小约为70MB。该作业是使用GCP ML引擎执行的。没有GPU。这是管道:...