softmax 相关问题

将此标记用于与softmax函数相关的编程相关问题,也称为归一化指数函数。特定于某种编程语言的问题也应该用该语言标记。

Softmax函数的导数

我试图计算softmax函数的导数。我有一个2d numpy数组,我正在计算沿轴1的数组的softmax。我的python代码是:def softmax(z):...

回答 1 投票 1

numpy:计算softmax函数的导数

我试图用MNIST理解一个简单的3层神经网络中的反向传播。输入层有权重和偏差。标签是MNIST,因此它是10类向量。 ......

回答 3 投票 9

有没有一种简单的方法来扩展现有的激活功能?我的自定义softmax函数返回:渐变的操作有“无”

我想通过仅使用向量中的前k个值来实现使softmax更快的尝试。为此,我尝试在模型中实现tensorflow的自定义函数:def ...

回答 1 投票 2

tf.gather运行超出范围,同时使用自定义softmax_loss函数,即使它不应该

我在tf.contrib.seq2seq.sequence_loss(softmax_loss_function = [...])中使用一个小的自定义函数作为自定义sofmax_loss_function:def reduced_softmax_loss(self,labels,logits):...

回答 1 投票 3

如何在张量流中的两个选定维度中执行tf.nn.softmax?

我想为具有形状(batch_size = ?, height,width,channel)的张量的所选二维实现tf.nn.softmax()。但是tf.nn.softmax()似乎不可能接收2轴......

回答 2 投票 0

减法中遇到的值无效 - Softmax,Python

我正在使用数值稳定的softmax版本: - def softmax(arr):print(arr)expArr = np.exp(arr-np.max(arr))print(expArr)return expArr / np.sum(expArr )它被用作:-...

回答 1 投票 0

如何在Python中实现Softmax函数

从Udacity的深度学习类中,y_i的softmax只是指数除以整个Y向量的指数之和:其中S(y_i)是y_i的softmax函数,e是......

回答 19 投票 198

tf.nn.sparse_softmax_cross_entropy_with_logits - 张量流中没有一个热编码的标签

我试图了解tf.nn.sparse_softmax_cross_entropy_with_logits是如何工作的。描述说:一个常见的用例是对形状[batch_size,num_classes]和形状标签进行记录[...

回答 1 投票 0

Tensorflow - ValueError:无法提供形状值

我有19个输入整数功能。输出和标签是1或0.我从tensorflow网站查看MNIST示例。我的代码在这里:validation_images,validation_labels,train_images,train_labels = ...

回答 2 投票 1

从tf.distributions.Categorical输出层创建softmax

我正在训练一个代理人在一个离散的环境中行动,我正在使用一个tf.distributions.Categorical输出层,然后我进行采样以创建一个softmax输出来确定要采取的动作。一世 ...

回答 1 投票 1

如何在keras中实现categorical_crossentropy?

我正在尝试应用蒸馏的概念,基本上是为了训练一个新的小型网络与原始网络一样,但计算量较少。我有每个样品的softmax输出......

回答 2 投票 3

将正态分布转换为softmax

我在github上找到了一个很好的强化学习例子,我想用它。我的问题是输出是正态分布层(下面的代码),因为它用于连续动作空间,...

回答 1 投票 1

TypeError:softmax()得到一个意外的关键字参数'axis'

当我使用它时它没有给出任何错误out_layer = tf.add(tf.matmul(layer_4,weights ['out']),偏见['out'])out_layer = tf.nn.softmax(out_layer)但当我使用此模型= Sequential()...

回答 5 投票 10

数值稳定的softmax

下面有一个数值稳定的方法来计算softmax函数吗?我在神经网络代码中获得的值变为Nans。 np.exp(x)的/np.sum(np.exp(Y))

回答 4 投票 8

Softmax及其衍生词的明确实现

我正在用python 3.7和numpy编写我的第一个多层神经网络,我在实现softmax时遇到了麻烦(我打算用我的网络进行分类,所以有一个工作......

回答 1 投票 0

考虑Keras Lstm模型的n高概率输出的准确性

我有一个用于序列预测的Lstm模型,如下所示:def create_model(max_sequence_len,total_words):input_len = max_sequence_len - 1 model = keras.models.Sequential()model ....

回答 1 投票 0

如何将SVM类概率转换为logits?

我想将SVM输出的概率类转换为logits。为了得到每个类模型的概率= svm.SVC(probability = True)model.fit(X,Y)results = model.predict_proba(...

回答 1 投票 0

为什么softmax_cross_entropy_with_logits_v2返回成本甚至相同的值

我用随机数导入张量流测试了“softmax_cross_entropy_with_logits_v2”为tf x = tf.placeholder(tf.float32,shape = [None,5])y = tf.placeholder(tf.float32,shape = [None,5]) softmax = ......

回答 2 投票 3

Logsoftmax稳定性

我知道如何通过添加元素-max _i x_i来使softmax稳定。这可以避免溢出和下溢。现在,记录这个可能会导致下溢。 log softmax(x)可以评估为零,导致-...

回答 2 投票 2

具有label_smoothing的TensorFlow sequence_loss

是否可以使用tf.losses.softmax_cross_entropy中的label_smoothing功能和tf.contrib.seq2seq.sequence_loss?我可以看到sequence_loss可选择...

回答 1 投票 2

© www.soinside.com 2019 - 2024. All rights reserved.