gradient-descent 相关问题

Gradient Descent是一种用于查找函数最小值的算法。它迭代地计算函数的偏导数（梯度），并以与这些偏导数成比例的步长下降。 Gradient Descent的一个主要应用是将参数化模型拟合到一组数据：要最小化的函数是模型的误差函数。

损失函数在梯度提升中的作用是什么？

在梯度提升中可以使用不同的损失函数。例如，在 sklearn 的 GradientBoostingRegressor 中，可能的损失函数是：‘squared_error’、‘absolute_error’、‘huber’和‘quantile...

machine-learning gradient-descent boosting

回答 1 投票 0

如何使用 Flux.jl 中的梯度更新 PPO 中的 actor 网络参数？梯度不返回任何内容

前言，我是一个完全的 Julia 新手...我第一次尝试实现 PPO，并且在使用 gra 更新 actor（以及扩展批评家）网络参数时遇到问题...

julia reinforcement-learning gradient-descent flux.jl

回答 1 投票 0

具有梯度下降误差的多变量线性回归

我正在遵循此 YouTube 视频 (https://www.youtube.com/watch?v=lCOHri09YmM) 中的教程，但我收到错误“在减去 coeff = coeff - der 中遇到无效值”，并且...

python linear-regression gradient-descent

回答 1 投票 0

如何基于掩码进行矩阵相乘和排除元素？

我有以下输入矩阵 inp_tensor = torch.tensor( [[0.7860, 0.1115, 0.0000, 0.6524, 0.6057, 0.3725, 0.7980, 0.0000], [1.0000、0.1115、0.0000、0.6524、0.6057、0.3725、0.00...

machine-learning matrix pytorch gradient-descent

回答 1 投票 0

tensorflow到底是如何进行小批量梯度下降的？

除非我选择批量大小为 1，否则我无法获得好的结果。好的，我的意思是误差在各个时期显着减少。当我做一整批 30 个时，结果很差，错误是......

python tensorflow gradient-descent mini-batch stochastic-gradient

回答 1 投票 0

为什么学习率需要这么低？

我是机器学习新手，所以我尝试在多元线性回归中使梯度下降。函数很简单，就是z = x + y。但由于某种原因，学习率需要为 1e-16 才能...

machine-learning gradient-descent

回答 1 投票 0

如何修改 Adam 优化器以在计算中不包含零？

我在这个SO问题中找到了Adam的实现：类 ADAMOptimizer(torch.optim.Optimizer): ”“” 作为前面的步骤，实现 ADAM 算法。 ”“” ...

machine-learning optimization pytorch neural-network gradient-descent

回答 1 投票 0

dtype uint8 的张量可以用于损失函数吗？稍后将调用 '.backward()'？

我尝试计算 dtype float32 的张量和另一个 dtype uint8 的张量之间的损失。由于损失函数执行自动类型提升，因此我没有明确进行类型转换...

python deep-learning pytorch loss-function gradient-descent

回答 1 投票 0

梯度下降：缩减特征集的运行时间比原始特征集更长

我尝试用Python实现梯度下降算法来解决机器学习问题。我正在使用的数据集已经过预处理，并且我在运行时观察到了意外的行为

python machine-learning linear-regression gradient-descent svd

回答 1 投票 0

神经网络对不同输入的相同预测

我正在尝试在 Matlab 中构建一个神经网络，而不使用深度学习工具箱，其中一个隐藏层可以预测图像显示的是脑肿瘤还是健康的大脑。数据库...

matlab machine-learning deep-learning neural-network gradient-descent

回答 1 投票 0

寻找 Sympy 多项式的 KKT 点的最佳方法

我正在尝试在受超立方体 [-1,1]^n 约束的域上，对具有 n 个变量的低次多项式（例如 3）运行梯度下降（GD）。我想比较一下终止情况

python sympy mathematical-optimization symbolic-math gradient-descent

回答 1 投票 0

梯度下降算法中，如何导出-2*wx

【梯度下降算法的一部分】（https://i.stack.imgur.com/iTBz6.png） this.updateWeights = 函数() { 让wx；让w_deriv = 0; 让 b_deriv = 0; 对于（令 i = 0；i < this.points;...

javascript machine-learning gradient-descent

回答 1 投票 0

梯度下降权重不断变大

为了熟悉梯度下降算法，我尝试创建自己的线性回归模型。对于少数数据点来说它效果很好。但是当尝试使用更多数据来拟合它时，w0 和 w1 总是

python numpy machine-learning linear-regression gradient-descent

回答 1 投票 0

梯度下降最小二乘代码问题

我正在尝试在数据集上使用梯度下降。我写的是导入numpy 将 pandas 导入为 pd 将 numpy 导入为 np 将 matplotlib.pyplot 导入为 plt 数据 = pd.read_csv('C:/用户/老师/

python machine-learning linear-regression gradient-descent

回答 1 投票 0

无法看到梯度下降最小二乘代码的问题

我是Python新手，我正在尝试对数据集data.csv使用梯度下降。我写的是导入numpy 将 pandas 导入为 pd 将 numpy 导入为 np 将 matplotlib.pyplot 导入为 plt 数据 = pd。

machine-learning linear-regression gradient-descent

回答 1 投票 0

如何在 PyTorch 中利用 Nesterov Momentum 实现全批量梯度下降？

我目前正在 PyTorch 中从事一个机器学习项目，我需要使用全批量梯度下降法来优化模型。关键要求是优化器应该使用...

python machine-learning pytorch gradient-descent

回答 1 投票 0

多变量梯度下降

我正在学习梯度下降来计算系数。下面是我正在做的事情： #!/usr/bin/Python 将 numpy 导入为 np # 这里 m 表示示例的数量，而不是特征的数量...

python machine-learning linear-regression gradient-descent

回答 2 投票 0

使用梯度armijo方法求解Freudenstein和Roth测试函数

我尝试求解由以下给出的弗洛伊登斯坦和罗斯测试函数： f1^2 + f2^2，其中 f1、f2 由下式给出： f1 (x, y) = −13 + x + ((5 − y) y − 2) y, f2 (x, y) = −29 + x + ((y + 1) y − 14) y。 ...

python optimization gradient-descent

回答 1 投票 0

在Mini Batch Gradient Descent中应用StandardScaler，应用时出错

ValueError：需要 2D 数组，却得到 1D 数组：数组=[0。 0. 0. ... 0. 0. 1.]。如果您的数据具有单个特征，请使用 array.reshape(-1, 1) 重塑您的数据；如果您的数据具有单个特征，请使用 array.reshape(1, -1)

machine-learning scikit-learn gradient-descent mini-batch

回答 1 投票 0

如何在张量流中累积梯度？

我有一个与此类似的问题。因为我的资源有限，而且我使用深度模型 (VGG-16) - 用于训练三元组网络 - 我想积累 128 批的梯度...

python tensorflow conv-neural-network gradient-descent

回答 3 投票 0

gradient-descent 相关问题

最新问题