用于训练具有对比损失的排名模型的批处理结构?

问题描述 投票:0回答:1

如果我用例如训练深度排名模型,我该如何选择我的批次。我有每个查询1个正面文件和2个负样本的对比损失?

因此,它是关于适用于例如的排名(损失)。 quora问题对数据或任何其他问题/答案对我想要使用深度学习排名模型或仅仅是暹罗网络进行排名。

数据看起来像这样:https://github.com/NTMC-Community/MatchZoo/blob/master/matchzoo/datasets/toy/train.csv

现在,我认为如何构建批次至关重要,对吧?因为对于每个问题,所有积累的pos和neg答案都需要包含在批次中,对吧?

tensorflow ranking information-retrieval loss-function
1个回答
0
投票

可以使用不同的策略来构建批次和三元组或对。通常,批次是随机构建的,然后挑选最难的负面或批次中最难的一个。

所以是的,正面和负面的例子需要在批处理中包含。挑选负面信息至关重要。但通常会努力在批次中选择适当的否定,而不是以特定方式构建批次。这篇博文说明排名损失如何运作可能是有用的https://gombru.github.io/2019/04/03/ranking_loss/

© www.soinside.com 2019 - 2024. All rights reserved.