FairSeq-样本损失加权

Question

我正在尝试使用fairseq学习seq2seq模型。我希望每个样本具有不同的损失加权，因此将有一些示例，这些模型将尝试更好地拟合。正确的方法是什么？也许为此目的更好的库？

Answer 1

我不确定FairSeq，但可以在Marian中轻松完成，默认情况下，该选项具有--data-weighting选项，您可以在其中为文件提供权重列表。 OpenNMT提供类似的功能，但具有按主体加权。