多项式逻辑回归的叠加集合学习,2d输入到回归中去

问题描述 投票:0回答:1

我正试图实现一个用于多类预测的堆栈式集合模型。

每个训练例子是一个具有14个特征的向量.总共有12个可能的类.三个基础模型(如下所述)分别摄取一个14维特征向量的训练例子,并输出一个12维的概率向量(1个概率类)。

这三个基础分类模型是从头开始建立的(即没有使用 sklearn 所以我不能简单地使用 sklearn ensemble方法),具体如下。

  • 贝叶斯网:为每个14维的训练实例输出一个12维的概率向量(1个概率类)。
  • 其他图形模型:为每个14维的训练实例输出一个12维的概率向量(1个概率类)。
  • 度量学习模型:为每个14维的训练实例输出一个12维的概率向量(1个概率类)。

我想把每个训练实例的基础模型的输出堆叠起来(即堆叠3×12维的概率向量),并把这个3×12的数组作为输入输入到多叉逻辑回归合集模型中,为每个训练实例的最终多类预测输出一个12维的概率向量。

然而,我不确定这是否可以使用 sklearn 多项式回归模型。 根据我的理解。sklearn 模型只能摄取一维特征阵列,而不是二维特征阵列。

有什么建议欢迎提出来。谢谢你。

python scikit-learn logistic-regression ensemble-learning
1个回答
0
投票

所以最终的变通方法最终非常简单:将其扁平化。3x12 每个基础模型的向量输出到一个 1x36 特征向量,然后将其输入到集合模型中。

另一种选择是用基础模型预测建立一个张量,然后使用不同类型的合集分类器,即CNN,但这种方法被拒绝了。

© www.soinside.com 2019 - 2024. All rights reserved.