使用 PyTorch,我在使用两个变量进行操作时遇到问题:
sub_patch : [torch.FloatTensor of size 9x9x32]
pred_patch : [torch.FloatTensor of size 5x5x32]
sub_patch 是 torch.zeros 创建的变量 pred_patch 是一个变量,我使用嵌套 for 循环对其中的 25 个节点进行索引,并与其相应的大小为 [5,5,32] 的唯一过滤器 (sub_filt_patch) 相乘。结果被添加到 sub_patch 中的相应位置。
这是我的一段代码:
for i in range(filter_sz):
for j in range(filter_sz):
# index correct filter from filter tensor
sub_filt_col = (patch_col + j) * filter_sz
sub_filt_row = (patch_row + i) * filter_sz
sub_filt_patch = sub_filt[sub_filt_row:(sub_filt_row + filter_sz), sub_filt_col:(sub_filt_col+filter_sz), :]
# multiply filter and pred_patch and sum onto sub patch
sub_patch[i:(i + filter_sz), j:(j + filter_sz), :] += (sub_filt_patch * pred_patch[i,j]).sum(dim=3)
我从这段代码的底行得到的错误是
RuntimeError: in-place operations can be only used on variables that don't share storage with any other variables, but detected that there are 2 objects sharing it
我明白为什么会发生这种情况,因为 sub_patch 是一个变量,而 pred_patch 也是一个变量,但是我怎样才能解决这个错误呢?任何帮助将不胜感激!
谢谢!
我发现问题出在
sub_patch[i:(i + filter_sz), j:(j + filter_sz), :] += (sub_filt_patch * pred_patch[i,j]).sum(dim=3)
将这一行分成这样:
sub_patch[i:(i + filter_sz), j:(j + filter_sz), :] = sub_patch[i:(i + filter_sz), j:(j + filter_sz), :] + (sub_filt_patch * pred_patch[i,j]).sum(dim=3)
然后就成功了!
a += b 和 a = a + b 之间的区别在于,在第一种情况下,b 被添加到 a 中(因此 a 的内容更改为现在包含 a+b)。在第二种情况下,创建一个包含 a+b 的全新张量,然后将此新张量分配给名称 a。 为了能够计算梯度,有时需要保留 a 的原始值,因此我们阻止进行就地操作,否则我们将无法计算梯度。