Keras报告TypeError：+不支持的操作数类型：'NoneType'和'int'

Question

我是Keras的初学者，只是写一个玩具的例子。它报告了TypeError。代码和错误如下：

码：

inputs = keras.Input(shape=(3, ))

cell = keras.layers.SimpleRNNCell(units=5, activation='softmax')
label = keras.layers.RNN(cell)(inputs)

model = keras.models.Model(inputs=inputs, outputs=label)
model.compile(optimizer='rmsprop',
              loss='mae',
              metrics=['acc'])

data = np.array([[1, 2, 3], [3, 4, 5]])
labels = np.array([1, 2])
model.fit(x=data, y=labels)

错误：

Traceback (most recent call last):
    File "/Users/david/Documents/code/python/Tensorflow/test.py", line 27, in <module>
        run()
    File "/Users/david/Documents/code/python/Tensorflow/test.py", line 21, in run
        label = keras.layers.RNN(cell)(inputs)
    File "/Users/david/anaconda3/lib/python3.6/site-packages/tensorflow/python/keras/layers/recurrent.py", line 619, in __call__
...
    File "/Users/david/anaconda3/lib/python3.6/site-packages/tensorflow/python/ops/init_ops.py", line 473, in __call__
        scale /= max(1., (fan_in + fan_out) / 2.)
TypeError: unsupported operand type(s) for +: 'NoneType' and 'int'

那我该怎么处理呢？

Answer 1

对RNN层的输入将具有(num_timesteps, num_features)的形状，即每个样本由num_timesteps时间步长组成，其中每个时间步长是长度为num_features的向量。此外，时间步数（即num_timesteps）可以是可变的或未知的（即None），但特征的数量（即num_features）应该从一开始就是固定和指定的。因此，您需要将输入图层的形状更改为与RNN图层一致。例如：

inputs = keras.Input(shape=(None, 3))  # variable number of timesteps each with length 3
inputs = keras.Input(shape=(4, 3))     # 4 timesteps each with length 3
inputs = keras.Input(shape=(4, None))  # this is WRONG! you can't do this. Number of features must be fixed

然后，您还需要更改输入数据的形状（即data）以与您指定的输入形状一致（即它必须具有(num_samples, num_timesteps, num_features)的形状）。

作为旁注，您可以通过直接使用SimpleRNN图层更简单地定义RNN图层：

label = keras.layers.SimpleRNN(units=5, activation='softmax')(inputs)

Answer 2

我认为@今天的答案非常明确。但是，不完整。这里的关键是，如果你的输入不包含num_features，你必须在输入旁边做一个Embedding层。

所以如果你使用：

inputs = keras.Input(shape=(3,))
embedding = Embedding(voc_size, embed_dim, ..)
X = embedding(inputs)

它也有效。